Sam Altman (OpenAI) critică inferența AI locală și spune că RAM-ul din PC-uri este „destul de rău” - susține că centrele de date folosesc mai eficient o resursă globală limitată de DRAM

Declarațiile lui Sam Altman sugerează o miză economică directă: mutarea cât mai multor sarcini de inteligență artificială din PC-uri către centre de date, unde resursele pot fi folosite mai intens. Într-un interviu „la bere” acordat canalului de YouTube Cheeky Pint, citat de Tom's Hardware , CEO-ul OpenAI a spus că „inferința locală” (rularea modelelor AI direct pe dispozitivul utilizatorului) și, prin extensie, faptul că oamenii au memorie DRAM/RAM în calculatoarele de acasă este „destul de rău”. De ce contează: „utilizarea” memoriei devine argument pentru centralizare Altman își bazează poziția pe ideea de alocare globală a unei resurse limitate: memoria DRAM. Potrivit relatării, el a susținut că este ineficient ca „toată lumea” să aibă „o grămadă” din oferta limitată de DRAM în propriul computer, folosită doar o mică parte din timp. În această logică, centrele de date ar oferi o „utilizare mai bună” a resurselor, deoarece pot agrega cererea și pot menține hardware-ul ocupat mai mult timp decât un PC obișnuit. Contextul declarației și reacțiile Interviul a fost publicat de canalul de YouTube Cheeky Pint (link în materialul sursă), iar articolul notează contrastul dintre faptul că OpenAI operează centre de date „pline de memorie” și critica la adresa celor 32 GB RAM dintr-un desktop. Materialul include și reacții critice din zona de comentarii, însă acestea sunt opinii ale utilizatorilor, nu informații verificate despre piață sau despre gradul de utilizare al centrelor de date. Ce rămâne neclar Articolul nu oferă date cantitative sau dovezi independente care să susțină procentele de utilizare invocate în discuție și nici nu detaliază un plan concret al OpenAI privind limitarea inferenței locale. În forma prezentată, mesajul rămâne în primul rând o poziționare publică pro-centralizare, cu implicații evidente pentru modelul de business al furnizorilor de AI în cloud (servicii rulate în centre de date, accesate prin internet). [...]