Știri
Știri din categoria Inteligență artificială
Un test de 141 de ore în Minecraft a arătat cât de fragilă poate fi „autonomia” unui model AI pe termen lung, după ce GPT-6 Astra și-a schimbat vizibil strategia în urma unui singur incident care i-a șters o parte importantă din progres, potrivit Mediafax. Experimentul a fost realizat de compania independentă de evaluare Vals AI și a fost urmărit online de mii de persoane, relatarea fiind preluată de Dexerto.
Testul a urmărit să verifice cât de bine poate un sistem de inteligență artificială să folosească un computer și să ia decizii singur pe perioade foarte lungi, fără intervenție umană permanentă. În primele zile, modelul a făcut progrese: a explorat, a strâns resurse și a construit instalații care automatizau obținerea unor materiale.
Punctul de inflexiune a venit când un Creeper (o creatură care se apropie fără zgomot și explodează) a detonat lângă zona în care Astra își depozitase obiectele importante într-un cufăr. Explozia a distrus atât cufărul, cât și locul de „revenire” al personajului, iar o parte semnificativă din progresul acumulat în aproape șase zile de test a fost pierdută.
Vals AI a descris reacția drept „frustrare extremă”. Modelul și-a formulat apoi o regulă pentru viitor: să poarte permanent obiectele importante și să nu le mai lase într-un cufăr neprotejat, un semn că și-a ajustat strategia după o greșeală cu cost operațional în joc.
După incident, în loc să reia rapid obiectivele dificile, Astra a petrecut ore întregi într-o activitate repetitivă și sigură: cultivarea cartofilor. Cei care urmăreau transmisia i-au cerut să accelereze și să revină la progres, însă modelul a rămas concentrat pe această rutină.
Ulterior, a devenit mai atent la potențiale pericole: a observat „ceva verde” și și-a verificat interpretarea, concluzionând că era trestie de zahăr, nu un Creeper. Pe internet, episodul a fost prezentat drept „paranoie”, însă materialul precizează că experimentul nu demonstrează o paranoia în sens uman și nu există dovezi că modelul ar fi simțit frică sau anxietate.
În aceeași logică de auto-monitorizare, Astra a început să-și critice deciziile, inclusiv momente în care a considerat că a pierdut timp urmărind „pixeli roz închis”, referindu-se la porcii din joc.
Dincolo de spectacolul unui model AI „jucând” Minecraft, testul Vals AI indică o limită practică: pe sarcini lungi și complexe, un singur eveniment care șterge progresul poate devia comportamentul pentru ore întregi, împingând sistemul spre activități mai simple și mai „sigure”. În termeni de utilizare reală, concluzia relevantă este că autonomia pe termen lung nu înseamnă doar capacitatea de a executa pași mulți, ci și reziliență la eșecuri și revenire rapidă la obiective după incidente.
Recomandate
Perplexity își reduce supravegherea umană a fluxurilor „end-to-end” după ce a trecut la GPT‑6 Astra , folosind modelul inclusiv pentru a modifica software și a monitoriza sisteme de producție, potrivit OpenAI . Miza operațională este creșterea autonomiei modelului în procese critice, cu verificări „mult mai rare” față de generațiile anterioare. Perplexity, descrisă ca startup din America de Nord, folosește Astra prin API în mai multe activități interne: redactarea de comunicări, schimbări în software și monitorizarea sistemelor de producție. Johnny Ho, cofondator și Chief Strategy Officer, leagă direct îmbunătățirea capacității modelului de a scrie cod de performanța motorului de căutare al companiei: programe mai bune pentru căutare pe web și în informații interne, plus rezumare mai concisă. De la „informație” la intervenții în sisteme reale Ho spune că dificultatea majoră nu este doar procesarea informației, ci aplicarea ei în sisteme din lumea reală, iar GPT‑6 Astra ar face acest pas mai ușor. „Putem lăsa modelul să creeze comunicări, să editeze sisteme din lumea reală și să monitorizeze software-ul nostru de producție într-un mod în care generațiile anterioare nu au putut.” Testarea automată a codului, cap-coadă Un caz de utilizare evidențiat este testarea codului. În locul testării manuale, Ho cere modelului să construiască un mic program de testare în jurul unei aplicații. Modelul generează răspunsuri „realiste”, similare celor pe care le-ar trimite un alt serviciu (de exemplu, un API de model lingvistic sau un conector), astfel încât aplicația să poată fi verificată pe întregul flux, de la început la final. „Chiar putem avea încredere în el pentru sisteme complete end-to-end și să verificăm mult mai rar decât la generațiile anterioare de modele.” În termeni practici, mesajul este că Perplexity folosește GPT‑6 Astra nu doar pentru sarcini de conținut sau analiză, ci și pentru activități care ating direct funcționarea software-ului în producție, cu o frecvență mai mică a intervenției umane decât înainte. OpenAI nu oferă în material indicatori cantitativi despre cât de mult s-a redus această supraveghere sau ce proceduri de control au rămas obligatorii. [...]
Apple ar putea reveni pe piața serverelor enterprise cu un model pentru AI în 2029 , bazat pe cipuri M-series Ultra, într-o mișcare care ar extinde utilizarea hardware-ului propriu dincolo de Mac-uri și ar miza pe cererea în creștere pentru infrastructură de inteligență artificială, potrivit Ars Technica . Publicația scrie că Apple lucrează la un server de AI care ar folosi cipuri M-series Ultra, similare celor din desktopurile Mac. O lansare estimată pentru 2029 ar însemna primul server Apple ajuns pe piață „în aproape două decenii” și o revenire notabilă în zona enterprise, după retragerea Xserve în ianuarie 2011. Ce știe piața despre configurații și calendar Conform The Information (citat de Ars Technica), serverul ar urma să vină în două configurații, cu două sau patru cipuri M8 Ultra (o generație viitoare de procesoare Apple). Proiectul ar fi început în urmă cu un an și ar fi avut sprijinul actualului CEO, John Ternus , încă din perioada în care conducea ingineria hardware. De ce contează: cererea de „Mac-uri pentru AI” împinge Apple spre data center Materialul leagă proiectul de vânzările în creștere pentru Mac mini și Mac Studio, pe fondul interesului dezvoltatorilor și companiilor care folosesc aceste sisteme pentru sarcini de AI. The Information susține că firme de AI precum OpenAI au cumpărat „zeci de mii” de Mac mini și Mac Studio pentru antrenarea agenților AI prin învățare prin încercare și eroare (reinforcement learning), iar Anthropic ar fi închiriat Mac mini prin Amazon Web Services. Posibilă colaborare tehnologică cu Nvidia, dar cu risc de anulare Apple ar lua în calcul conectarea cipurilor M8 folosind echipamente de rețelistică pentru centre de date de la Nvidia. În acest context este menționată NVLink Fusion , iar surse citate de The Information spun că Apple și Nvidia ar fi discutat despre utilizarea tehnologiei Nvidia în strategia Apple pentru AI. Totuși, aceeași sursă avertizează că proiectul ar putea fi anulat sau ar putea continua fără integrarea tehnologiei Nvidia. Obstacol operațional: deficitul de cipuri de memorie Ars Technica notează că planurile Apple și popularitatea Mac-urilor în „boom-ul AI” se lovesc de o problemă de lanț de aprovizionare resimțită în toată industria: deficitul de cipuri de memorie, alimentat de investițiile accelerate în centre de date pentru AI. Publicația amintește că această penurie a dus la scumpiri pentru electronice de consum, inclusiv pentru o gamă largă de produse Apple. În acest stadiu, proiectul rămâne la nivel de informații din surse și planuri interne, cu un orizont de timp îndepărtat (2029) și cu incertitudini privind arhitectura finală și parteneriatele tehnologice. [...]
Huawei a prezentat un nou „cluster” de calcul pentru AI, mizând pe reducerea dependenței Chinei de Nvidia , într-un context în care restricțiile SUA pe semiconductori împing companiile locale să-și consolideze alternativele interne, potrivit South China Morning Post . Compania a anunțat joi Atlas 960 SuperPoD , un „cluster” (grupare de servere care lucrează împreună) destinat creșterii puterii de calcul pentru sisteme avansate de inteligență artificială, alături de o versiune îmbunătățită a tehnologiei sale de interconectare UnifiedBus . Publicația notează că aceste componente sunt parte din strategia Huawei de a construi sisteme AI performante în pofida restricțiilor americane legate de semiconductori. Impact operațional: competiție directă cu arhitecturile Nvidia Miza pentru Huawei nu este doar piața internă, ci și poziționarea în „arena globală” a infrastructurii de calcul, unde Atlas 960 SuperPoD ar urma să concureze cu soluții ale rivalilor americani, inclusiv cu sistemul NVL al Nvidia, conform aceleiași surse. În termeni practici, anunțul indică o accelerare a eforturilor de a oferi o platformă completă (hardware plus interconectare) pentru antrenarea și rularea modelelor AI, într-un moment în care accesul la cele mai noi cipuri și sisteme occidentale este limitat pentru o parte din actorii din China. Context: restricțiile SUA împing dezvoltarea de alternative locale South China Morning Post plasează lansarea în cadrul mai larg al restricțiilor SUA privind semiconductori și tehnologii asociate, care au forțat companiile chineze să caute substituți pentru infrastructura dominantă în AI, unde Nvidia a avut un rol central. Publicația nu oferă, în fragmentul disponibil, detalii despre performanțe, prețuri, disponibilitate comercială sau clienți pentru noul sistem. În lipsa acestor date, rămâne de urmărit dacă Atlas 960 SuperPoD va fi adoptat pe scară largă și în ce măsură poate reduce efectiv dependența de ecosistemul Nvidia în proiectele AI din China. [...]
Huawei devansează cu nouă luni lansarea următoarei generații de cipuri Ascend pentru inteligență artificială , într-o mișcare care accelerează ritmul de înlocuire a tehnologiilor americane pe piața chineză, potrivit South China Morning Post . Compania spune că noul Ascend 960DT, destinat antrenării modelelor (procesul intensiv de calcul prin care un model „învață” din seturi mari de date), va fi gata în primul trimestru din 2027, cu trei trimestre mai devreme decât planul inițial. Anunțul a fost făcut de David Wang Tao, președinte rotativ și interimar al Huawei, la conferința Huawei Connect 2026 din Shanghai. Pe lângă 960DT, compania a indicat că Ascend 960PR, cip pentru inferență (folosirea unui model deja antrenat pentru a răspunde la întrebări și a genera rezultate), ar urma să fie lansat în trimestrul al treilea din 2027, cu un trimestru mai devreme decât era așteptat. Ritm anual de upgrade și foaie de parcurs până în 2029 Huawei afirmă că seria Ascend va continua pe un ciclu anual de actualizare. În acest calendar, Ascend 970 și 980 sunt programate pentru 2028, respectiv 2029, conform declarațiilor lui Wang. Contextul mai larg este presiunea Chinei pentru autosuficiență tehnologică, în condițiile în care cipurile avansate și anumite echipamente de producție rămân greu accesibile pe piața internă din cauza controalelor de export ale SUA. De ce contează: alternativă internă la GPU-urile Nvidia, sub presiunea controalelor de export Publicația notează că Ascend 950, cel mai puternic procesor actual al Huawei, este folosit pentru sarcini de inteligență artificială ca alternativă la cele mai avansate procesoare grafice (GPU) ale Nvidia, indisponibile în China din cauza restricțiilor americane la export. Huawei, companie aflată sub sancțiuni americane, este prezentată ca un actor central în efortul Chinei de a-și avansa ambițiile în AI fără a depinde de tehnologii din SUA. Clusterul Atlas 960 SuperPoD și ținta pentru modele uriașe Tot la eveniment, Huawei a anunțat Atlas 960 SuperPoD, un cluster de calcul programat pentru finalul lui 2027. Sistemul ar urma să fie alimentat de cipuri Ascend 960 și să îmbunătățească performanța la antrenare și inferență pentru modele cu 10 trilioane de parametri de 2,3 ori, respectiv 2,5 ori, față de predecesorul Atlas 950 SuperPoD. Atlas 950 SuperPoD este „programat să fie implementat până în trimestrul al patrulea al acestui an”, potrivit informațiilor din articol. Context geopolitic: tehnologia, pe agenda discuțiilor SUA–China Anunțurile vin înaintea unor discuții comerciale la nivel înalt așteptate să aibă loc săptămâna viitoare între președintele Chinei, Xi Jinping, și președintele SUA, Donald Trump, unde inteligența artificială și exporturile de semiconductori ar urma să fie în prim-planul agendei tehnologice, potrivit aceleiași surse. [...]
OpenAI discută o finanțare privată care ar putea urca evaluarea la 1.200 mld. dolari (aprox. 5.475 mld. lei), într-un moment în care compania are costuri foarte mari și o listare la bursă împinsă cel mai devreme după 2027, potrivit Ziarul Financiar , care citează Financial Times. Discuțiile cu investitori mari sunt descrise ca fiind preliminare, iar evaluarea vizată „s-ar putea modifica în următoarele luni”. Conform surselor citate de Financial Times, inițiativa ar fi venit de la investitori, nu de la companie. De ce contează: capital privat în loc de IPO, pe fondul unui consum masiv de cash O nouă rundă ar schimba ecuația pentru investitorii existenți: le-ar permite să-și mărească participațiile, dar ar putea prelungi așteptarea pentru câștigurile asociate unei listări. În același timp, calendarul finanțării este legat de momentul IPO-ului. Directorul general Sam Altman a spus că un IPO înainte de 2027 este puțin probabil și a descris listarea în contextul actual drept un moment „nepotrivit”, pe fondul preocupărilor tot mai mari privind riscurile existențiale asociate inteligenței artificiale. OpenAI a depus confidențial documente preliminare pentru IPO în iunie, dar ulterior și-a amânat planurile. Reperele financiare invocate în discuțiile cu investitorii Potrivit articolului, noua evaluare de 1.200 mld. dolari ar însemna o creștere de aproximativ 41% față de evaluarea de 852 mld. dolari stabilită în martie, când OpenAI a atras 122 mld. dolari. În paralel, o persoană citată de Financial Times spune că veniturile anualizate ale OpenAI au depășit luna trecută 40 mld. dolari (aprox. 183 mld. lei), după o creștere de 20% în urma lansării GPT-5.6. Compania a cheltuit 34 mld. dolari anul trecut (aprox. 155 mld. lei), în principal din cauza costurilor ridicate de dezvoltare și antrenare a modelelor de inteligență artificială. Context competitiv: Anthropic apasă pe accelerație Materialul notează că OpenAI a avut un început de an mai lent, în timp ce rivalul Anthropic a ajuns la o evaluare de 965 mld. dolari, depășind OpenAI și alimentând întrebările investitorilor privind direcția și valoarea companiei. Totodată, Anthropic s-ar pregăti pentru o posibilă listare încă din octombrie, la o evaluare estimată de aproximativ 2.000 mld. dolari, potrivit informațiilor relatate de Financial Times. [...]
Șeful Nvidia respinge ideea unor noi reguli pentru AI, într-un moment în care Congresul discută evaluări externe de siguranță , iar miza este dacă industria va rămâne în principal autoreglementată sau va intra sub un cadru legal mai strict, potrivit Politico . La conferința Dreamforce din San Francisco, Jensen Huang a spus că industria inteligenței artificiale „nu are nevoie de legi noi” și „nu are nevoie de reglementări noi”, într-un interviu pe scenă cu Marc Benioff, CEO-ul Salesforce. Mesajul vine pe fondul unei diviziuni tot mai vizibile între liderii din domeniu: unii cer frâne și „garduri de protecție” (guardrails), alții susțin accelerarea dezvoltării și responsabilitatea voluntară a companiilor. Ce înseamnă pentru reglementare: presiune pentru autoreglementare Huang a reluat o linie de argumentație promovată și de președintele Donald Trump și de lideri republicani, inclusiv consilierul pentru AI David Sacks și președintele Camerei Reprezentanților Mike Johnson, care susțin că siguranța ar trebui gestionată în principal de companiile de AI. În aceeași logică, Huang a formulat un criteriu simplu pentru lansarea produselor: „Dacă construiești un produs sau un serviciu și nu ești încrezător în funcționalitatea, capacitatea sau siguranța lui, atunci nu-l lansa.” Poziția sa intră în tensiune cu inițiativele care cer verificări independente: Politico notează că OpenAI a susținut marți un plan bipartizan în Camera Reprezentanților pentru evaluări de siguranță realizate de terți (third-party safety assessments), adică audituri externe ale sistemelor. Contextul politic: apropierea de Trump și disputa cu „tabăra prudenței” Politico relatează că Huang a consolidat o relație aparent apropiată cu Trump în al doilea mandat al acestuia. Cu o zi înainte de Dreamforce, Huang a primit un apel de la președinte în timp ce era pe scenă la un eveniment din Los Angeles, iar cei doi au fost de acord că avertismentele „existențiale” despre AI sunt exagerate; Trump le-a numit „o farsă”. Declarațiile lui Huang au venit la scurt timp după ce Dario Amodei, CEO Anthropic, a vorbit la același eveniment și după ce apelurile sale recente pentru încetinirea ritmului de dezvoltare au declanșat, potrivit publicației, un „incendiu politic”. Amodei a pledat pentru standarde comune în industrie și pentru accesul evaluatorilor externi la programele companiei. Disputa se extinde în industrie: audituri, peer-review și „încredere” în companii În paralel, Politico consemnează și alte poziții exprimate la Dreamforce: Elon Musk a cerut ca laboratoarele de vârf și companiile chineze să își facă reciproc „peer-review” (evaluare între egali) pentru modele; Sam Altman, CEO OpenAI, a spus că publicul ar trebui să „aibă încredere” că industria „va face ce trebuie” și că „vom face lucrurile corect”, exprimând încredere în capacitatea industriei de a opera în siguranță. Benioff a spus că firmele trebuie să respecte legile existente și a descris momentul drept „foarte fluid” pentru AI, dar a insistat și pe ideea responsabilizării executive, comparând AI cu rețelele sociale și sugerând că lecțiile din social media ar trebui aplicate înainte ca efectele AI să scape de sub control. Huang a respins și temerile privind pierderile de locuri de muncă din cauza automatizării, pe care le-a numit „complet absurde”, potrivit Politico. [...]
