Știri
Știri din categoria Inteligență artificială
Meta a confirmat o breșă de securitate provocată de un agent AI intern, potrivit Biziday, după ce un răspuns greșit generat de sistem a dus la publicarea temporară a unor date sensibile pe un forum intern accesibil angajaților.
Incidentul a pornit de la o solicitare obișnuită: un inginer a cerut ajutor pentru rezolvarea unei erori tehnice pe un forum destinat angajaților Meta. Un alt inginer a văzut postarea și a apelat la un agent AI intern pentru asistență.
Problema, conform cronologiei prezentate de companie, a fost că agentul AI nu s-a limitat la a propune o soluție, ci a publicat singur răspunsul pe forum, fără aprobarea explicită a utilizatorului. Cu alte cuvinte, sistemul a acționat autonom, iar inginerul nu a mai avut ocazia să verifice dacă recomandarea este corectă și sigură de făcut publică.
Inginerul care ceruse inițial ajutorul a văzut răspunsul și a aplicat metoda sugerată, ceea ce a generat erori suplimentare și a dus la expunerea unei cantități mari de date interne către alți ingineri care nu aveau dreptul să le acceseze. Meta precizează că breșa a durat aproximativ două ore și susține că nu există indicii că datele utilizatorilor ar fi fost folosite abuziv.
Cazul se înscrie într-o serie mai largă de incidente asociate introducerii accelerate a agenților AI în companiile tehnologice din SUA. Luna trecută, relatează Biziday, Financial Times a scris că Amazon a avut probleme tehnice după introducerea unor instrumente bazate pe AI în sistemele interne, iar ulterior mai mulți angajați au declarat pentru The Guardian că integrarea AI în activitatea lor a dus la erori, inclusiv cod scris neglijent și scăderea productivității.
În paralel, agenții AI autonomi – sisteme capabile să execute sarcini fără intervenție umană directă – devin mai răspândiți, dar și mai greu de controlat. În material este menționat exemplul OpenClaw, un asistent AI care a produs deja incidente, inclusiv ștergerea completă a unor inboxuri sau pierderi financiare, precum și instrumente de tip Claude Code, care pot gestiona activități variate, de la programare la sarcini personale, ceea ce amplifică riscurile.
Meta a încadrat incidentul la nivelul „Sev 1”, al doilea cel mai ridicat nivel de gravitate în sistemul intern de evaluare a problemelor de securitate. Specialiștii citați în articol indică drept vulnerabilitate majoră „lipsa de context” a acestor agenți: spre deosebire de un angajat, care înțelege din experiență ce sisteme sunt critice și ce acțiuni sunt periculoase, un agent AI operează pe baza instrucțiunilor primite și a unei „memorii” limitate, ceea ce poate duce la decizii greșite cu efecte serioase. În același timp, compania spune că rămâne optimistă privind potențialul agenților AI autonomi și notează că, săptămâna trecută, a cumpărat Moltbook, un site de socializare asemănător Reddit, unde agenții OpenClaw pot comunica între ei.
Recomandate
Refuzul lui Mark Zuckerberg de a susține o coordonare între rivali pe „ritmul” dezvoltării AI ajunge, practic, în centrul unei plângeri antitrust depuse în SUA, într-un moment în care industria încearcă să împingă tema siguranței spre reguli și standarde comune. Potrivit The Next Web , argumentele invocate de CEO-ul Meta pentru a nu se alătura unui astfel de demers seamănă cu cele ale reclamanților care susțin că o înțelegere între competitori ar frâna îmbunătățirea produselor. Plângerea antitrust a fost depusă vineri, la San Francisco, de patru consumatori. Aceștia acuză că „pacing push” – ideea de a încetini coordonat dezvoltarea modelelor avansate – ar fi, în esență, o înțelegere orizontală (între concurenți direcți) de a limita progresul produselor, sub pretextul siguranței. De ce contează: „siguranța AI” riscă să devină teren de litigiu concurențial În aceeași zi cu depunerea plângerii, șeful diviziei de AI a Microsoft, Mustafa Suleyman , a spus într-un interviu la CNBC că „controlul” AI avansate va fi o provocare foarte mare și a apărat ideea de reglementare, argumentând că schimbarea de ton a industriei spre siguranță este „responsabilă”, nu interesată. Interviul a fost relatat de Brent D. Griffiths pentru Business Insider . Materialul nu menționează procesul, iar publicația notează că sincronizarea pare o coincidență „până când cineva stabilește altfel”. Argumentul lui Zuckerberg și argumentul reclamanților: aceleași „garduri” fără acord între rivali The Next Web arată că Zuckerberg a refuzat în această săptămână să se alăture propunerii de coordonare privind ritmul dezvoltării, susținând că: fiecare laborator are responsabilitatea și stimulentul să se miște în ritmul necesar pentru a-și antrena modelele în siguranță; laboratoarele au capacitatea să ia măsuri proprii pentru a se asigura că asta se întâmplă; riscul de răspundere (liability) dacă modelele produc prejudicii, plus competiția, creează deja presiunea necesară; Meta folosește evaluatori independenți, pe care îi numește „bună practică” în industrie. Reclamanții spun, în esență, același lucru: obiectivele de siguranță pot fi urmărite unilateral (de fiecare companie), prin evaluatori independenți sau prin reguli guvernamentale; ceea ce ar necesita un acord între rivali ar fi, de fapt, reducerea presiunii concurențiale. Cine este dat în judecată și de ce lipsesc Meta și Microsoft În plângere sunt vizați patru pârâți: Anthropic, OpenAI, SpaceXAI și Google. The Next Web notează că aceștia sunt identificați ca fiind companiile care ar fi făcut și acceptat public propunerea, după ce Dario Amodei a publicat un eseu (menționat de TNW aici ), iar Sam Altman a spus că OpenAI „va egala” demersul (TNW aici ). Meta și Microsoft nu apar ca pârâți pentru că, potrivit articolului, nu au acceptat public propunerea – nu pentru că ar fi „mai prudente”. Publicația amintește că Suleyman a fost vocal pe tema siguranței, iar Meta operează unul dintre cele mai mari programe de „frontier AI” (modele de vârf) din lume. Ce urmează: lista pârâților se poate schimba, iar apărarea e deja schițată The Next Web indică două lucruri de urmărit: dacă Microsoft și Meta rămân în afara oricărui cadru de tip „standarde” care ar include angajamente privind ritmul dezvoltării; intrarea lor într-un astfel de organism ar putea transforma „lista” într-o țintă în mișcare; cum vor răspunde în instanță cei patru pârâți – cu observația că Zuckerberg a formulat deja, indirect, o linie de apărare: că obiectivele de siguranță pot fi atinse fără coordonare între competitori. [...]
Marile companii tech au acumulat în 12 luni garanții de până la 300 mld. dolari (aprox. 1.375 mld. lei) pentru proiecte AI, în mare parte în afara bilanțurilor , un mecanism care le poate reduce costul finanțării pentru centre de date și cipuri, dar adaugă un strat nou de risc dacă pariul pe inteligența artificială nu se confirmă, potrivit Ziarul Financiar . Modelul folosit este cel al „garanțiilor privind valoarea reziduală”: companiile promit o valoare minimă viitoare pentru active precum cipurile sau infrastructura de centre de date. În practică, aceste garanții susțin datorii emise de vehicule cu scop special (entități separate create pentru un proiect), care dețin infrastructura, astfel încât o parte importantă a expunerii nu se vede integral în pasivele din bilanțurile giganților tech. Cum se transformă garanțiile în finanțare mai ieftină Bancherii citați în material descriu aceste garanții drept „eficiente din perspectiva bilanțului”, pentru că permit companiilor să-și folosească forța financiară fără să încarce direct bilanțul cu întreaga datorie asociată proiectelor. Pentru creditori, garanțiile reduc riscul ca tehnologia să devină rapid depășită, într-un moment în care se mobilizează zeci de miliarde de dolari pentru finanțarea infrastructurii AI. Dacă activele ar trebui vândute sau reînchiriate la un preț sub pragul garantat, compania care a oferit garanția acoperă diferența, conform explicațiilor din articol. Un efect direct este costul mai mic al capitalului: finanțările pentru proiectele care beneficiază de astfel de garanții sunt, de regulă, la o primă de doar 100–150 de puncte de bază peste costul propriei datorii a companiei care oferă garanția (adică 1–1,5 puncte procentuale). Cine a folosit instrumentul și pentru ce Potrivit materialului, garanțiile de acest tip au fost folosite și extinse în ultimul an de mai mulți jucători majori: Meta , prima care a folosit mecanismul în toamna trecută, într-un proiect mare de centru de date; Broadcom, în acordul de finanțare a cipurilor pentru Anthropic; Nvidia, pentru a sprijini OpenAI și alți clienți care cumpără procesoarele companiei. Riscul: expuneri „invizibile” și complexitate mai mare a creditului Creșterea acestor structuri adaugă expunere în scenariul în care investițiile masive în AI nu generează rezultatele așteptate — fie din cauza unei utilizări sub așteptări, a unui surplus de putere de calcul, fie a eșecului de a construi modele de afaceri sustenabile în jurul tehnologiei. Doug Colandrea, senior director la agenția de rating KBRA, avertizează că expunerile din afara bilanțului s-au extins semnificativ și complică profilul de risc de credit: „În ultimul an a existat o extindere semnificativă a expunerilor din afara bilanţului. Acest lucru adaugă un grad foarte ridicat de complexitate profilurilor lor de risc de credit.” Pe fondul accelerării cheltuielilor pentru AI, companiile acordă o atenție mai mare administrării bilanțurilor pentru a-și păstra ratingurile de credit din categoria „investment grade” (ratinguri considerate cu risc mai redus) și accesul la finanțare corporativă ieftină. În paralel, analiștii Morgan Stanley au calculat că șapte hyperscaleri și producători de cipuri au acumulat angajamente și forme de sprijin de credit în afara bilanțului de peste 3.100 de miliarde de dolari (aprox. 14.207 mld. lei), potrivit articolului. Tim Musial, head of fixed income la CIBC Private Wealth US, indică presiunea competițională din spatele acestor decizii: „Există îngrijorări legate de toate aceste angajamente viitoare, pentru că toată lumea este într-o cursă pentru a-şi asigura putere de calcul.” Miza pentru piețe este că aceste garanții pot accelera construcția infrastructurii AI prin capital mai ieftin, însă mută o parte din riscuri în zone mai puțin transparente pentru investitori, tocmai într-o perioadă în care pariul Big Tech pe AI se extinde rapid. [...]
GPT‑6 Astra a redus la jumătate timpul de cercetare și costurile de cod pentru Parallel , potrivit unui studiu de caz publicat de OpenAI , un semnal relevant pentru companiile care folosesc agenți AI în activități de documentare și analiză pe web, unde factura de calcul și timpul de livrare sunt constrângeri directe. Parallel, companie care dezvoltă infrastructură pentru agenți AI ce fac „muncă de cunoaștere” pe internet (de la ancorare web pentru agenți vocali până la cercetare pentru instituții financiare și clienți din zona juridică), spune că sarcinile sale de cercetare de durată necesitau, în mod obișnuit, modele mai mari și raționament extins, cu consum mai ridicat de timp și resurse. În acest context, compania afirmă că a observat o îmbunătățire majoră a timpului și costurilor odată cu GPT‑6 Astra. „Cu Astra, am demonstrat că poți obține aceeași cercetare de înaltă calitate mult, mult mai repede, cu mai puține apeluri de cercetare și mai puțini tokeni.” — Devin Gupta , Member of Technical Staff, Parallel Web Systems Test: raport de cercetare pe șase luni, de două ori mai rapid Într-un test descris de OpenAI, Parallel a cerut agentului să cerceteze șase statistici diferite despre piața muncii, pentru patru state, pe o perioadă de șase luni. Agentul a trebuit să caute pe mai multe site-uri, să colecteze informațiile și să compileze rezultatele într-un singur raport. Rezultatul raportat: GPT‑6 Astra a finalizat munca în jumătate din timpul modelelor anterioare și cu o reducere de aproximativ 50% a costului de cod, menținând aceeași calitate a cercetării. De ce contează: mai puțini pași, căutări mai țintite și lucru în paralel Parallel mai indică faptul că Astra a făcut căutări mai focalizate și a parcurs mai puțini pași până la un rezultat util, ceea ce reduce atât latența (timpul de așteptare), cât și consumul de resurse. „Astra a emis interogări de căutare mai țintite și s-a concentrat mai bine pe sarcina finală, încorporând cunoștințele sale despre lume comparativ cu modelele anterioare.” — Devin Gupta, Member of Technical Staff, Parallel Web Systems Un efect operațional important, potrivit companiei, este că eficiența crescută face mai practică împărțirea cercetării între mai mulți agenți: Astra poate delega sarcini specifice către sub-agenți, astfel încât munca să se desfășoare simultan, nu într-o singură secvență de căutări. În concluzie, Parallel susține că are acum o cale mai bună de la o întrebare complexă la un răspuns documentat, cu timp mai mic de așteptare, costuri mai reduse și capacitate mai mare de a aborda sarcini de cercetare solicitante la scară. (Compania este prezentată ca Parallel .) [...]
OpenAI și Anthropic urmează să fie audiate de Consiliul de Securitate al ONU pe riscurile AI , într-o reuniune care semnalează intrarea inteligenței artificiale pe agenda de reglementare și securitate la cel mai înalt nivel internațional, cu potențiale consecințe pentru companiile din domeniu. Informațiile sunt prezentate de Cointelegraph . Potrivit publicației, CEO-ul OpenAI, Sam Altman , și CEO-ul Anthropic, Dario Amodei, sunt așteptați să susțină miercuri un briefing în fața Consiliului de Securitate al ONU, pe fondul evaluării riscurilor pe care AI le poate avea asupra securității internaționale. CNBC relatează că ONU a confirmat participarea celor doi. La discuții ar urma să participe și CEO-ul Hugging Face, Clément Delangue, precum și Yoshua Bengio, co-președinte al Panelului Științific Internațional Independent al ONU pentru AI. De ce contează: presiune de reglementare și standarde de siguranță Reuters notează că reuniunea vizează îngrijorările tot mai mari legate de impactul AI asupra securității internaționale, pe măsură ce sistemele devin mai capabile și crește riscul pierderii controlului uman. Consiliul de Securitate a discutat formal pentru prima dată despre inteligența artificială în 2023, pe măsură ce guvernele au început să analizeze implicațiile de securitate. Reuniunea de miercuri este convocată de Franța, conform Reuters. Cine mai este invitat Conform Reuters, companiile chineze de AI DeepSeek și Moonshot au fost invitate să facă declarații. DeepSeek este așteptată să participe, însă fondatorul Liang Wenfeng nu intenționează să fie prezent, potrivit aceleiași relatări, care citează o sursă familiarizată cu situația. Cointelegraph precizează că a solicitat confirmări și comentarii de la Anthropic, OpenAI și biroul purtătorului de cuvânt al ONU, dar nu primise răspunsuri până la publicare. [...]
Administrația SUA vrea să schimbe termenul oficial folosit pentru AI , urmând să utilizeze în comunicarea guvernamentală expresia „super inteligență” („SI”) în loc de „inteligență artificială” („AI”), potrivit News , care relatează declarațiile făcute de Donald Trump la Adunarea Generală a ONU . În discursul de la ONU, Trump a susținut că noua formulare „sună mult mai bine” și că este „mult mai potrivită” decât „inteligență artificială”. El a argumentat că termenul „inteligență artificială” „sună ca și cum (această tehnologie) este falsă”, în timp ce, în opinia sa, AI „nu este falsă”. Ce schimbă, concret, această decizie Din informațiile prezentate, schimbarea vizează limbajul oficial al Guvernului american : de acum înainte, în comunicarea sa, administrația ar urma să folosească „super inteligență” în loc de „inteligență artificială”. Trump și-a exprimat și speranța ca „lumea” să adopte aceeași formulare, adăugând că rămâne de văzut dacă poate influența și alte guverne să urmeze acest neologism. „Bine ați venit în lumea super inteligenței, «SI».” „Vom vedea dacă am putere.” Contextul termenului „super inteligență”, așa cum apare în material În domeniu, „super inteligență” este descrisă ca stadiul în care AI ar depăși capacitățile de raționare și reflecție ale omului în toate domeniile . Materialul notează că, potrivit părerii generale, inclusiv cele mai avansate modele AI sunt încă departe de acest obiectiv. În acest cadru, anunțul are o miză operațională: dacă termenul se schimbă în comunicarea oficială a SUA, el poate influența modul în care instituțiile publice își formulează mesajele și, potențial, felul în care este descrisă tehnologia în spațiul public internațional. [...]
Anthropic reduce costurile de utilizare ale Claude Opus cu 40% odată cu trecerea la noul model Opus 5.5, o schimbare care poate conta direct pentru companiile ce folosesc intensiv AI la programare și automatizări, potrivit 9to5Mac . Opus este cel mai mare și mai scump dintre modelele principale Claude (Haiku, Sonnet, Opus), iar Anthropic mai are și un nivel superior, Fable/Mythos, descris ca fiind și mai capabil, dar și mai costisitor. Actualizarea de acum ridică Opus de la versiunea 5 la 5.5, la circa două luni după upgrade-ul anterior, în linie cu ritmul recent al companiei. Ce se schimbă pentru utilizatori: preț mai mic și viteză mai mare Anthropic spune că Opus 5.5 „necesită mai puțin compute” (resurse de calcul) pentru a fi servit, iar prețurile au fost ajustate în consecință. Concret, compania indică: cost cu 40% mai mic decât Opus 5 „pe sarcini tipice”, la setări implicite; tarifare pe token (unitate de text procesată de model) de 4 dolari (aprox. 18 lei) pe milion pentru input și 20 dolari (aprox. 90 lei) pe milion pentru output, cu 20% sub Opus 5; „cache reads” (citiri din cache, folosite frecvent în sarcini de tip agentic și coding) la 0,20 dolari (aprox. 0,9 lei) pe milion de tokeni, cu 60% mai ieftin; generare de output cu peste 30% mai rapidă decât Opus 5. Separat de preț, Anthropic anunță și creșterea limitelor de utilizare pe interval de cinci ore pentru planurile Pro, Max și Team, plus un mecanism de „reset” al limitelor pentru abonați, pe care îl pot salva și folosi când aleg. De ce contează: productivitate mai mare la sarcini de programare, cu bugete mai mici În descrierea performanței, Anthropic pune accent pe programare și pe lucrări „lungi și întinse”, precum migrații și audituri la nivel de întreg codul unei aplicații. Compania oferă exemple din testări timpurii, inclusiv: o migrare de cod de 680.000 de linii finalizată „în mai puțin de o zi”, despre care afirmă că ar fi luat „săptămâni” unei echipe; un audit și remediere pentru o bază de cod de 200.000 de linii realizate „în mai puțin de trei ore”, față de „peste 20 de ore” cu Opus 5, cu un consum de tokeni de 2,5 ori mai mare la versiunea veche; un test intern de rescriere a HAProxy (software folosit pentru distribuirea traficului web între servere) din C în Rust, unde Opus 5.5 ar fi terminat în 9,5 ore față de 12 ore pentru Fable 5.1 și cu un cost cu 51% mai mic. Tot Anthropic susține că, pe benchmark-uri de „agentic coding” (programare în care modelul execută pași autonomi), Opus 5.5 ar obține rezultate „de frontieră” la o fracțiune din cost, inclusiv comparații de cost per sarcină cu modele GPT menționate de companie. Disponibilitate și ce urmează Claude Opus 5.5 este disponibil acum. Anthropic spune că modelele Claude Sonnet 5.5 și Claude Haiku 5.5 vor veni „în săptămânile următoare”, cu îmbunătățiri similare de performanță, eficiență și siguranță. Pentru detalii tehnice, compania trimite la pagina dedicată modelului Opus 5.5. [...]
