OpenAI publică ghidul pentru GPT‑5.6 - promite performanță similară cu modele mai vechi la costuri mult mai mici și noi controale în Responses API

GPT‑5.6 schimbă economia construirii de agenți AI, reducând puternic costurile fără să sacrifice performanța , potrivit ghidului publicat de OpenAI . Mesajul central pentru companii este că optimizarea nu mai ține doar de „cel mai mare model”, ci de selecția inteligentă a modelului și de controale noi în API care reduc consumul de tokeni (unități de text procesate) și timpul de răspuns. De ce contează: „preț-performanță” mai bună și agenți mai accesibili OpenAI susține că familia GPT‑5.6 face „performanța de nivel frontieră” (vârf de gamă) mult mai accesibilă, inclusiv prin rezultate mai bune la efort de raționare mai mic. Un exemplu din ghid: pe benchmark-ul „Agents’ Last Exam”, GPT‑5.6 Sol la raționare „low” a depășit GPT‑5.5 la „high”, în condițiile în care configurația de test („harness”) a rămas neschimbată. Publicația indică și un efect practic observat în testări de producție: startup-urile ar fi obținut îmbunătățiri semnificative de cost în fluxuri de lucru diverse prin reducerea „reasoning effort” față de setările implicite anterioare. Selecția modelului: Luna și Terra ca alternativă mai ieftină la modelele „flagship” Ghidul argumentează că, istoric, trecerea la modelul „flagship” cu cel mai ridicat nivel de raționare era opțiunea standard pentru sarcini pe termen lung, mai ales pentru context lung și apeluri de instrumente. OpenAI spune că acest lucru „s-a schimbat” cu familia 5.6: modelele Luna și Terra pot atinge adesea performanțe similare cu GPT‑5.4 și GPT‑5.5, dar la costuri mai mici, datorită unui nivel mai mare de calcul la momentul testării („test-time compute”). Exemplul cel mai concret din ghid este benchmark-ul BrowseComp (căutare de fapte obscure): cu trei luni înainte, GPT‑5.5 (Extra High) a obținut 84,36% la un cost total de 33,27 dolari (aprox. 150 lei); la lansare, GPT‑5.6 Luna (Extra High) livrează 84,04% la 1,33 dolari (aprox. 6 lei). OpenAI notează și că prețurile au fost reduse ulterior, fără a detalia în acest material nivelul noilor tarife. Schimbări operaționale: Responses API primește „primitive” pentru agenți mai eficienți Dincolo de model, OpenAI pune accent pe controale noi în Responses API, antrenate end-to-end împreună cu GPT‑5.6, care urmăresc eficiența agenților în sarcini mai lungi și mai complexe: Păstrarea raționării între „turn-uri” („reasoning to be persisted”) și compactare nativă („native compaction”) pentru comprimarea conversațiilor lungi, astfel încât agentul să rămână coerent fără să reconstruiască permanent contextul: Reasoning și Compaction . Orchestrare nativă multi-agent , pentru a rula în paralel mai multe fluxuri de lucru și a termina mai repede sarcini complexe: Responses multi-agent . Mutarea muncii deterministe în cod , prin „programmatic tool calling”, astfel încât filtrarea, agregarea și orchestrarea ieșirilor din instrumente să se facă în afara ferestrei de context a modelului, reducând costul și latența: Programmatic tool calling . OpenAI avertizează implicit că tokenii ar trebui rezervați pentru „judecată” (decizii), nu pentru procesarea intermediară a unor volume mari de date. Caz de performanță: salt pe ARC-AGI-3 cu mai puțini tokeni Un exemplu de impact combinat al acestor mecanisme este prezentat pe ARC-AGI-3: GPT‑5.6 Sol ar fi obținut 13,3% cu „standard harness”, iar după activarea păstrării raționării și a compactării scorul ar fi urcat la 38,3%, folosind aproximativ de 6 ori mai puțini tokeni de ieșire. Detaliile sunt trimise către investigația dedicată: OpenAI – ARC-AGI-3 harness investigation . Prompt caching: fereastră minimă de 30 de minute și „breakpoints” deterministe Pentru companiile cu trafic repetitiv, ghidul menționează extinderea duratei de viață a cache-ului de prompt (TTL) la un minim de 30 de minute pentru întreaga familie de modele și posibilitatea de a seta determinist puncte de întrerupere („cache breakpoints”) în fereastra de context. În plus, folosirea unei chei adecvate poate crește șansa ca cererile să ajungă pe același motor de inferență, reducând latența: prompt_cache_key . Ce ar trebui să rețină companiile Concluzia OpenAI este că „economia construirii de agenți” s-a schimbat: cazuri care necesitau un model de vârf la fiecare pas pot fi realizate comparabil (sau mai bine) la o fracțiune din cost, prin: modele mai mici în pașii de volum (extragere, preprocesare), ajustarea efortului de raționare, arhitecturi care reduc tokenii irosiți (păstrarea raționării, compactare, multi-agent, apeluri programatice de instrumente). Materialul nu oferă o estimare agregată a economiilor „în producție” și nici un set complet de prețuri actualizate, dar include exemple punctuale care indică o scădere majoră a costului pentru performanțe similare în anumite benchmark-uri. [...]