Știri
Știri din categoria Inteligență artificială

Consumul intern de „tokeni” la OpenAI a ajuns la niveluri care pun presiune pe costuri, în condițiile în care unii angajați ar folosi lunar aproximativ 100 de miliarde de tokeni, potrivit declarațiilor CEO-ului Sam Altman, citate de iThome.
Altman a spus, într-un eveniment dedicat clienților corporate (marți, ora locală), că „campionul” consumului de tokeni din interiorul companiei ajunge la circa 100 de miliarde pe lună. Prin comparație, în urmă cu șase ani și jumătate, cel mai mare consumator intern folosea aproximativ 100.000 de tokeni lunar — un nivel pe care Altman l-a descris drept aproape cel mai ridicat la nivel global la acel moment. Acum, același ordin de mărime ar fi ajuns „aproape” la nivelul mediu global de utilizare, potrivit lui.
Deși consumul intern este foarte mare, Altman a precizat că nu ar fi cel mai ridicat din lume: OpenAI ar fi identificat un utilizator extern cu un consum și mai mare, situație pe care CEO-ul a spus că a găsit-o „jenantă” în plan personal.
În material se menționează că folosirea intensă a tokenilor ar fi devenit o „modă” internă: OpenAI ar avea un clasament al consumului, iar unii angajați ar publica pe X capturi cu utilizarea lor ridicată. Contextul e relevant economic deoarece tokenii sunt unitatea de măsură folosită la facturarea utilizării modelelor (pe scurt, fragmente de text procesate), iar OpenAI este și vânzătorul acestor servicii.
Sursa mai indică exemple de consum extrem, atribuite unor terți:
În timp ce OpenAI ar tolera consumul intern ridicat, alte companii ar fi trecut la măsuri de control al costurilor, potrivit aceleiași surse:
Altman a mai spus că OpenAI lucrează la optimizarea modelelor proprii și caută soluții de reducere a costurilor, cu obiectivul de a „crea valoare mai mare la costuri mai mici”. El a susținut și că problema costurilor AI a devenit vizibilă brusc: la începutul lui 2026 „nimănui nu-i păsa” de cheltuieli, însă acum costul utilizării AI a devenit o problemă majoră care trebuie rezolvată.