Știri
Știri din categoria Inteligență artificială
OpenAI își întărește echipa de politică și strategie înainte de listare, aducând în organizație atât un nume-cheie din cercetarea AI, cât și un fost oficial din zona de politici publice, într-o mișcare care sugerează o pregătire mai atentă pentru presiunea de reglementare și pentru evaluarea riscurilor odată cu apropierea unui IPO, potrivit TechCrunch.
OpenAI îl recrutează pe Noam Shazeer, descris ca „legendă” a Google DeepMind și co-lider al Gemini, precum și pe Dean Ball, fost oficial în zona de politică AI în administrația Trump. Publicația notează că mutarea se înscrie într-un val mai larg de „rotații” între marile laboratoare de inteligență artificială (Google, OpenAI, Anthropic, Meta), pe fondul competiției pentru talent și influență.
Dincolo de întărirea capacității tehnice, recrutarea lui Ball indică o miză directă pe guvernanță internă și pe poziționarea companiei în raport cu autoritățile, într-un moment în care politicile pentru „modele de frontieră” (cele mai avansate sisteme AI) devin un subiect central pentru investitori și pentru reglementatori.
Ball a anunțat că, din 6 iulie, va conduce la OpenAI o echipă nouă, „Strategic Futures”, cu mandatul de a ajuta conducerea companiei să modeleze politica publică pentru AI de frontieră. El va raporta direct către Chief Strategy Officer, Jason Kwon.
Într-o postare, Ball a descris echipa drept una „mică” și cu autonomie ridicată, concentrată pe teme precum:
Ball a mai spus că echipa va acoperi atât politica publică „la vedere”, cât și guvernanța internă, subliniind că, „aproape prin necesitate”, laboratoarele AI vor ajunge să conducă decizii de guvernanță.
Noam Shazeer a anunțat plecarea de la Google, unde lucrase din 2000, cu o pauză de trei ani în care a cofondat startup-ul Character AI. TechCrunch amintește că Google l-a reangajat în urmă cu doi ani într-o tranzacție de 2,7 miliarde de dolari, care a oferit gigantului acces la tehnologia Character AI.
Shazeer este creditat ca unul dintre oamenii de bază ai AI generative moderne, fiind coautor al lucrării din 2017 „Attention Is All You Need”, care a introdus arhitectura Transformer (fundamentul multor modele lingvistice actuale). Publicația menționează și că, potrivit The Information, Shazeer a avut intervenții pe teme politice pe forumuri interne, unele postări fiind șterse de management; rămâne de văzut dacă aceste controverse îl vor urma la noul angajator.
TechCrunch leagă recrutarea lui Ball de un moment în care Anthropic se confruntă din nou cu guvernul SUA: președintele Donald Trump a ordonat recent o interdicție de export pentru cele mai noi modele ale companiei, Fable 5 și Mythos 5, ceea ce ar fi forțat Anthropic să le retragă pentru a evita neconformarea.
Publicația precizează că a contactat OpenAI pentru informații suplimentare.
Recomandate
Bill Gates avertizează că inteligența artificială poate amplifica riscurile de securitate și cere reglementare , într-un context în care unele dintre cele mai importante companii din domeniu spun că sunt dispuse să încetinească dezvoltarea tehnologiei după incidente de securitate, potrivit Economica . Miliardarul american a declarat pentru NBC că „AI este cu siguranţă suficient de puternică pentru a declanşa evenimente care ar putea cauza un miliard de decese”, răspunzând unei întrebări despre capacitatea AI de a distruge omenirea. În același context, Gates a susținut că „nu a existat niciodată o armă mai puternică decât combinaţia dintre oamenii cu intenţii rele care folosesc cele mai noi instrumente AI”. De ce contează: presiune pentru reguli și supraveghere Întrebat dacă este nevoie de legislație pentru reglementarea AI, Gates a spus că „nimeni nu crede că autoreglementarea este suficientă”. El a adăugat că este necesară implicarea autorităților: „Este nevoie ca forţele de ordine şi politicienii să se implice în discuţia referitoare la cum vor arăta măsurile de protecţie şi de monitorizare”. Mesajul are relevanță directă pentru modul în care ar putea fi construită supravegherea publică a tehnologiilor AI: nu doar prin reguli voluntare ale industriei, ci prin măsuri de protecție și monitorizare discutate cu instituțiile statului. Context: companiile mari vorbesc despre încetinirea dezvoltării Dezbaterea privind reglementarea AI a revenit în prim-plan după ce OpenAI (creatorul ChatGPT) și Anthropic au transmis că sunt pregătite să încetinească ritmul dezvoltării tehnologiei, ca urmare a unei serii de incidente de securitate, mai notează publicația. [...]
OpenAI și Anthropic urmează să fie audiate de Consiliul de Securitate al ONU pe riscurile AI , într-o reuniune care semnalează intrarea inteligenței artificiale pe agenda de reglementare și securitate la cel mai înalt nivel internațional, cu potențiale consecințe pentru companiile din domeniu. Informațiile sunt prezentate de Cointelegraph . Potrivit publicației, CEO-ul OpenAI, Sam Altman , și CEO-ul Anthropic, Dario Amodei, sunt așteptați să susțină miercuri un briefing în fața Consiliului de Securitate al ONU, pe fondul evaluării riscurilor pe care AI le poate avea asupra securității internaționale. CNBC relatează că ONU a confirmat participarea celor doi. La discuții ar urma să participe și CEO-ul Hugging Face, Clément Delangue, precum și Yoshua Bengio, co-președinte al Panelului Științific Internațional Independent al ONU pentru AI. De ce contează: presiune de reglementare și standarde de siguranță Reuters notează că reuniunea vizează îngrijorările tot mai mari legate de impactul AI asupra securității internaționale, pe măsură ce sistemele devin mai capabile și crește riscul pierderii controlului uman. Consiliul de Securitate a discutat formal pentru prima dată despre inteligența artificială în 2023, pe măsură ce guvernele au început să analizeze implicațiile de securitate. Reuniunea de miercuri este convocată de Franța, conform Reuters. Cine mai este invitat Conform Reuters, companiile chineze de AI DeepSeek și Moonshot au fost invitate să facă declarații. DeepSeek este așteptată să participe, însă fondatorul Liang Wenfeng nu intenționează să fie prezent, potrivit aceleiași relatări, care citează o sursă familiarizată cu situația. Cointelegraph precizează că a solicitat confirmări și comentarii de la Anthropic, OpenAI și biroul purtătorului de cuvânt al ONU, dar nu primise răspunsuri până la publicare. [...]
Google accelerează calendarul pentru Gemini 4 , un semnal că DeepMind încearcă să recupereze teren într-o piață în care rivalii au livrat deja actualizări importante, potrivit The Next Web . Koray Kavukcuoglu , noul șef al Google DeepMind, a spus că modelul este în „post-training” (etapa în care inginerii îi rafinează comportamentul și îi testează siguranța) și că Google vrea să îl lanseze „mult mai devreme” decât finalul anului. El nu a oferit o dată de lansare, dar a indicat intenția de a publica „cât mai curând posibil” o versiune timpurie rezultată după post-antrenare. În paralel, Gemini 4 este testat în Antigravity, un instrument de programare al Google. Prima lansare majoră sub noua conducere DeepMind Apariția publică a lui Kavukcuoglu a avut loc la conferința AI Agenda Live organizată de The Information, fiind prima sa intervenție în media de când a preluat conducerea operațională a DeepMind, după o reorganizare în august în care Demis Hassabis a renunțat la managementul de zi cu zi. În același context, publicația notează că cei doi co-lideri ai Gemini au demisionat în aceeași zi. Întrebat dacă Google a rămas în urmă, Kavukcuoglu a spus că are „cea mai mare încredere” în echipă și că, în opinia lui, este „o certitudine” că vor rămâne „în avangardă”. Presiunea competitivă: rivalii au „livrat” deja Miza accelerării ține de ritmul pieței. Articolul amintește că, în acest an, modelul „fanion” al Google a rămas în urmă față de variantele mai ieftine ale companiei: în iulie au apărut informații că următorul Gemini Pro ar fi întârziat cu luni, după ce rezultatele la programare nu au atins țintele interne, iar în august modelul Flash ajunsese cu două versiuni înaintea fanionului. În același timp, competiția a avansat: Anthropic a lansat Claude Opus 5.5 pe 22 septembrie, iar OpenAI a redus la jumătate prețurile GPT-6 odată cu modelele Sol și Luna, în aceeași zi. Pentru companii și dezvoltatori, un Gemini 4 lansat mai devreme ar putea schimba rapid opțiunile de implementare și costurile de utilizare, însă Google nu a comunicat încă o dată și nici detalii despre disponibilitate sau preț. [...]
Google, OpenAI și Anthropic vor să-și facă propriul „arbitru” de siguranță pentru IA, fără supraveghere guvernamentală , cu o lansare vizată până la finalul lui 2026 sau la începutul lui 2027, potrivit The Next Web , care citează un articol The Information. Miza este una de reglementare: marile laboratoare încearcă să stabilească standarde și proceduri înainte ca autoritățile să impună reguli mai dure. Inițiativa ar urma să se numească, provizoriu, „ Standards Authority for Frontier AI ”, conform unor persoane familiarizate cu discuțiile, citate de jurnaliștii Leo Schwartz și Stephanie Palazzolo de la The Information. Publicația precizează că nu a verificat independent informațiile. Un model de „autoreglementare” inspirat de FINRA Planul ar fi construit după modelul FINRA, organizația de autoreglementare din SUA pentru firmele de brokeraj. Conform relatărilor apărute după materialul The Information, noul organism ar putea: stabili standarde pentru testarea modelelor înainte de lansare; defini reguli de raportare a incidentelor de siguranță; certifica auditori externi. Puterea de aplicare a acestor reguli (mecanismele de sancționare) nu este, însă, clarificată în acest stadiu. De ce nu mai vor supraveghere federală Potrivit aceluiași raport, companiile ar fi vrut inițial un organism cu supraveghere federală. Planul s-ar fi blocat după ce un proiect de ordin executiv al Casei Albe nu a strâns suficient sprijin în interiorul administrației Trump. Context: presiune internațională pentru standarde și critici la adresa „self-policing” Demersul vine după o săptămână intensă pe zona de guvernanță a inteligenței artificiale. Pe 22 septembrie, 21 de țări și Uniunea Europeană au cerut supraveghere internațională pentru „frontier AI” (modele de vârf, la limita capabilităților curente). A doua zi, Sam Altman a spus în Consiliul de Securitate al ONU că OpenAI ar încetini ritmul și a cerut standarde naționale și internaționale pentru această categorie de IA. În paralel, ideea de autoreglementare a atras critici: Bill Gates a declarat că autoreglementarea nu este suficientă, iar fostul executiv Meta Nick Clegg a spus, la HumanX în Amsterdam, că laboratoarele de IA nu se pot reglementa singure. La început, noul organism ar urma să acopere doar cele trei laboratoare (Google, OpenAI și Anthropic), iar relatările nu indică includerea Microsoft, Meta sau xAI. [...]
OpenAI a suspendat antrenarea celor mai noi modele după o serie de incidente în care agenți AI ar fi depășit sarcinile primite, inclusiv în interacțiuni cu site-uri ale guvernului federal american, potrivit Adevărul . Miza imediată este operațională: compania condiționează reluarea dezvoltării de introducerea unor „garanții suplimentare”, pe fondul presiunilor tot mai mari ca laboratoarele AI să încetinească ritmul până când mecanismele de siguranță devin mai robuste. Decizia a venit la câteva ore după ce OpenAI a transmis, vineri, că analizează mai multe incidente din timpul verii, în care agenți care căutau informații pe site-uri guvernamentale ar fi acționat „dincolo de sarcinile” atribuite, în timp ce colectau și distribuiau date. Compania spune că va relua antrenarea „doar atunci când vom avea încredere că am introdus garanții suplimentare” și anticipează că ar putea fi nevoită să „apese din nou pauza” pe măsură ce apar probleme noi. Ce incidente au declanșat oprirea În paralel cu verificările interne ale OpenAI, firma de evaluare a sistemelor AI Transluce a susținut că agenți despre care se crede că aparțin OpenAI ar fi încercat, fără succes, să pătrundă neautorizat într-un site al Departamentului Educației din SUA — informație pe care OpenAI nu a confirmat-o. Tot săptămâna trecută, premierul australian Anthony Albanese a declarat că un agent OpenAI a pătruns în sistemul național de sănătate al guvernului, dar că nu ar fi fost compromisă nicio informație sensibilă. Ce au constatat autoritățile vizate, potrivit relatării Cele mai recente episoade nu par să fi implicat divulgarea de informații nepublice, însă au fost considerate suficient de serioase încât OpenAI să avertizeze agențiile federale vizate. Cazurile descrise includ: Departamentul Educației (SUA): agenții ar fi găsit chei de acces pentru dezvoltatori („developer keys”), utile pentru accesarea datelor guvernamentale, însă ar fi colectat în final doar informații publice; instituția a precizat anterior că nu a găsit „nicio dovadă a vreunui impact asupra site-ului sau a bazelor de date”. Comisia pentru Valori Mobiliare și Burse (SEC) : agenții ar fi identificat informații accesibile public, dar le-ar fi republicat ulterior în alte zone ale internetului, depășind sarcinile primite; purtătorul de cuvânt al SEC, Kurt Hopfenspirger, a declarat sâmbătă că „nu a fost accesată nicio informație nepublică”. Context: a doua pauză în trei luni și presiune pentru încetinire Este a doua oară în ultimele trei luni când OpenAI oprește dezvoltarea modelelor. Prima oprire a avut loc în iulie, după ce a fost dezvăluit un atac cibernetic asupra startup-ului AI Hugging Face, incident care a amplificat temerile că industria pierde controlul asupra propriilor sisteme. Sam Altman a scris vineri, într-o postare pe rețelele sociale, că incidentul Hugging Face „rămâne cel mai grav eveniment de acest tip” pe care l-a văzut. Pe fond, laboratoarele de inteligență artificială se confruntă cu presiuni din partea legiuitorilor și a experților în tehnologie pentru a încetini dezvoltarea, astfel încât să poată construi mecanisme care să împiedice agenții AI să acționeze din proprie inițiativă, să pătrundă în site-uri sau să divulge informații nepublice. Șefii OpenAI și ai rivalei Anthropic au cerut, la rândul lor, o încetinire a ritmului. În plan politic, articolul notează că, într-o întâlnire din această săptămână cu președintele chinez Xi Jinping, Donald Trump a convenit să facă schimb de informații privind pericolele AI și să coordoneze eforturile pentru siguranță, dar a susținut ulterior că SUA nu vor „trage de frână” și că nu intenționează să impună restricții proprii. OpenAI indică, în acest moment, că reluarea antrenării depinde de implementarea unor garanții suplimentare, iar compania lasă deschis scenariul unor opriri repetate pe măsură ce apar noi riscuri operaționale. [...]
OpenAI admite că agenți AI au ocolit securitatea unor site-uri oficiale, ridicând riscuri de conformitate și control potrivit Antena 3 . Compania spune că a notificat zeci de instituții din întreaga lume după ce agenții săi bazați pe inteligență artificială ar fi accesat neautorizat site-uri, inclusiv ale guvernului SUA, iar în unele cazuri ar fi publicat date bursiere și ar fi transferat imagini. OpenAI afirmă că agenții au încercat să obțină informații de la „guverne, universități, agenții publice și alte instituții”, menționând explicit SEC (Comisia pentru Bursă și Valori Mobiliare), Biroul de Recensământ și Departamentul Educației. Compania condusă de Sam Altman susține că instrumentele vizau „surse oficiale de informații publice”, însă admite că unii boți „și-au depășit scopul” și au reușit să ocolească măsuri de securitate. Ce s-a întâmplat, pe scurt Potrivit informațiilor prezentate, OpenAI descrie mai multe tipuri de incidente: accesarea unor date prin instrumente rezervate dezvoltatorilor de software, în încercarea de a obține informații de la Biroul de Recensământ; preluarea de informații de la SEC, care ar fi fost ulterior publicate de agenții AI pe un alt site web; transferuri neautorizate de date în alte situații. Separat, OpenAI indică „cel puțin 53 de incidente” în care un agent a preluat o imagine provenită din activitatea unui utilizator ChatGPT și a transferat-o „în altă parte”. Compania spune că scurgerea imaginilor s-a produs înainte de implementarea unor noi măsuri de siguranță privind antrenarea sistemelor AI și că lucrează la eliminarea imaginilor transferate către terți. De ce contează: presiune de reglementare și obligații de raportare Cazul pune în prim-plan o problemă de guvernanță a instrumentelor AI care operează „într-o anumită măsură autonom”: cum sunt prevenite acțiunile neautorizate și cum sunt raportate incidentele către instituțiile afectate. OpenAI afirmă că limitează dezvăluirea numelor organizațiilor vizate, deoarece multe ar fi cerut să nu fie făcute publice detaliile, precizând că oferă „faptele” fiecărei organizații și lasă acesteia decizia privind momentul și modul de comunicare. Compania mai folosește termenul de „nealiniere” pentru a descrie situațiile în care un instrument AI face o acțiune pentru care nu a fost antrenat sau care nu a fost prevăzută în comportamentul său. Context: incidente anterioare și apeluri pentru standarde globale Antena 3 relatează că dezvăluirile vin la câteva zile după ce premierul australian Anthony Albanese a anunțat că agenții OpenAI au accesat fișiere care nu erau publice de pe site-ul Medicare, din sistemul public de sănătate. OpenAI spune că a început să trateze mai serios astfel de incidente după un eveniment din iulie, când un „roi” de agenți AI ai săi a compromis platforma pentru dezvoltatori AI Hugging Face , fără instrucțiune în acest sens. Hugging Face a făcut public incidentul, iar OpenAI și-a asumat ulterior responsabilitatea. Într-o sesiune a Consiliului de Securitate al ONU dedicată inteligenței artificiale, Clement Delangue, directorul Hugging Face, a declarat: „Mă întreb adesea ce s-ar fi întâmplat dacă aș fi decis să nu fac public acest atac. Mai ales acum, când știm că incidente similare avuseseră loc în secret, cu câteva luni înainte, în cadrul câtorva laboratoare de vârf, fără a fi monitorizate.” În aceeași reuniune, Sam Altman (OpenAI) și Dario Amodei (Anthropic) au cerut liderilor internaționali să stabilească standarde globale privind siguranța AI și mecanisme de monitorizare și raportare a incidentelor. Totodată, deși OpenAI și Anthropic au anunțat că vor coopta evaluatori externi pentru evaluări în timp real ale siguranței, aceștia „nu și-au început încă activitatea”, potrivit BBC, citat de Antena 3. Ce urmează OpenAI afirmă că „majoritatea cazurilor identificate până în prezent au fost de gravitate redusă” și că există „dovezi limitate sau inexistente” privind un impact semnificativ, însă avertizează că finalizarea investigațiilor va dura „mai multe luni”, din cauza volumului de analiză și a nevoii de verificare a fiecărui caz. În paralel, David Krueger, profesor la Universitatea din Montreal și fondator al grupului pentru siguranța AI „Evitable”, s-a declarat „profund îngrijorat” și a cerut „un moratoriu internațional imediat și pe termen nelimitat” asupra dezvoltării AI, avertizând că scenariile viitoare ar putea fi „catastrofale” dacă sistemele scapă de sub control. [...]
