Știri
Știri din categoria Inteligență artificială
Administrația Trump interzice utilizarea Anthropic în guvern, iar OpenAI semnează un acord cu Pentagonul, potrivit unei investigații publicate de NBC News. Decizia vine după luni de tensiuni între Departamentul Apărării și compania Anthropic privind condițiile de utilizare a sistemelor sale de inteligență artificială în scopuri militare.
Președintele Donald Trump a anunțat că toate agențiile federale trebuie să înceteze „imediat” folosirea tehnologiei Anthropic, iar secretarul Apărării, Pete Hegseth, a declarat că firma va fi desemnată „risc pentru lanțul de aprovizionare la adresa securității naționale”. O astfel de etichetare ar interzice contractorilor militari să colaboreze cu compania. Agențiile ar avea la dispoziție șase luni pentru a încheia contractele existente.
Decizia survine pe fondul divergențelor legate de utilizarea inteligenței artificiale pentru arme autonome sau supraveghere internă. Anthropic, condusă de Dario Amodei, a cerut garanții ferme că tehnologia sa nu va fi folosită pentru supraveghere în masă sau sisteme letale complet autonome. Pentagonul a susținut că trebuie să poată utiliza modelele „pentru orice scop legal”.
La scurt timp după anunțul Casei Albe, directorul OpenAI, Sam Altman, a transmis că firma sa a încheiat un acord cu Departamentul Apărării pentru a implementa modelele sale pe rețele clasificate. El a precizat că înțelegerea include interdicții privind supravegherea în masă și utilizarea autonomă a forței letale, precum și mecanisme suplimentare de siguranță.
Anthropic a reacționat afirmând că nu a primit o notificare oficială și a amenințat cu acțiuni în instanță, susținând că desemnarea ar crea un precedent periculos pentru companiile americane care negociază cu guvernul. Mai mulți lideri din industria tehnologică au criticat măsura, iar un grup de parlamentari democrați a acuzat Pentagonul că exercită presiuni nejustificate asupra unei companii private.
Până în această săptămână, Anthropic era singura companie majoră de inteligență artificială autorizată să opereze pe rețele clasificate ale guvernului american. Contractul său cu Pentagonul putea ajunge la 200 de milioane de dolari. Rămâne neclar cum va fi redistribuită această capacitate tehnologică și dacă alte companii vor urma modelul OpenAI în relația cu Departamentul Apărării.
Recomandate
OpenAI spune că va adopta „frânarea” dezvoltării modelelor de vârf și va deschide evaluarea de siguranță către verificatori independenți , într-o mișcare care pune în prim-plan riscul de coliziune cu regulile antitrust atunci când rivalii încearcă să coordoneze standarde comune. Potrivit The Next Web , Sam Altman a susținut public apelul lui Dario Amodei (Anthropic) de a „încetini” ritmul la frontiera AI și a spus că OpenAI va urma aceeași direcție. Altman a scris că este de acord cu ideea de „a regla ritmul” („pacing”) la frontiera tehnologică și a descris drept „o idee grozavă” propunerea ca evaluatori independenți să primească acces „ca de angajat” pentru a verifica din interior munca de siguranță. El a adăugat că OpenAI va face la fel și că va reveni cu detalii. În același registru, Elon Musk (xAI) a reacționat succint, afirmând că „Dario are dreptate”, conform articolului. Ce presupune angajamentul de „acces ca de angajat” și de ce contează În eseul său, Amodei a cerut laboratoarelor de AI de vârf să permită echipelor externe să verifice practicile de siguranță direct din interiorul organizațiilor. Varianta Anthropic, descrisă de publicație, include elemente concrete: birouri, ecusoane, laptopuri de companie și dreptul evaluatorilor de a publica ceea ce găsesc. Faptul că două dintre cele mai mari laboratoare au anunțat, la o zi distanță, o poziție comună în public este prezentat ca primul pas dintr-un plan în trei etape propus de Amodei. Miza de reglementare: coordonare între rivali și riscul antitrust Pe lângă apelul la „încetinire”, Amodei a cerut Washingtonului o derogare antitrust limitată, care să permită concurenților să poarte discuții despre siguranță fără ca simpla coordonare să devină problema juridică. În viziunea lui, guvernele nu trebuie să participe, ci doar să permită aceste conversații. În Europa, însă, cadrul este diferit: articolul notează că Bruxelles-ul nu mai acordă „excepții individuale” din 2004, după intrarea în vigoare a Regulamentului 1/2003. Înainte, companiile notificau acordurile către Comisie și așteptau un răspuns; acum, ele își evaluează singure acordurile în raport cu Articolul 101 și își asumă consecințele. Publicația amintește și de un precedent relevant: Comisia Europeană a revizuit în 2023 ghidurile privind cooperarea orizontală (între competitori), extinzându-le semnificativ și introducând un capitol de 21 de pagini despre acordurile de sustenabilitate, inclusiv un „port sigur” (safe harbour) condiționat pentru standarde care îndeplinesc șase criterii. Nu există, însă, un capitol echivalent pentru standarde de siguranță în AI, iar articolul subliniază că „nimeni nu a cerut” unul. Altman și Amodei nu menționează Europa în intervențiile lor, iar șefa tehnologiei din cadrul Comisiei a spus săptămâna trecută că sunt necesare reguli globale, potrivit materialului. [...]
OpenAI nu vizează listarea la bursă în 2026 , iar CEO-ul Sam Altman spune că, în contextul discuțiilor despre siguranța inteligenței artificiale, ar fi „neînțelept” ca firma să devină publică acum, potrivit TechCrunch . Altman a confirmat că OpenAI a depus confidențial documentația pentru o ofertă publică inițială (IPO), însă a respins ideea unei listări în acest an și a indicat că 2026 nu mai este ținta. Într-un interviu acordat recent editorului-șef Fortune, Alyson Shontell, el a spus că OpenAI „nu se grăbește” către IPO și că momentul este nepotrivit „având în vedere tot ce se întâmplă cu siguranța”. „Nu ne grăbim către un IPO. Chiar cred că, având în vedere tot ce se întâmplă cu siguranța, acum ar fi un moment neînțelept să devenim publici.” De ce contează: presiunea pieței publice vs. riscurile de siguranță Mesajul lui Altman sugerează că OpenAI încearcă să evite constrângerile suplimentare ale pieței publice într-o perioadă în care compania se află sub presiune din două direcții: așteptările de creștere rapidă și intensificarea dezbaterilor despre riscurile și controlul tehnologiilor de inteligență artificială. În logica lui Altman, listarea ar trebui să vină abia „când suntem pregătiți”, atât din perspectiva businessului, cât și a „momentului din societate” legat de această tehnologie. Întrebat direct dacă asta înseamnă că IPO-ul nu se va întâmpla în 2026, Altman a răspuns: „Aș spune că nu în 2026, da. Avem multe de făcut.” Ce se știa despre calendarul IPO-ului TechCrunch notează că The New York Times a relatat în iunie că OpenAI ar fi angajat bancheri și avocați cu obiectivul de a se lista în trimestrul al treilea sau al patrulea din 2026, dar că firma ar fi înclinat spre 2027, invocând volatilitatea acțiunilor din tehnologie și propriile dificultăți financiare. În acest moment, din declarațiile lui Altman reiese doar că 2026 este exclusă, fără un nou termen ferm anunțat public pentru listare. [...]
Cercetătorul-șef al OpenAI cere praguri legale minime de siguranță pentru AI , avertizând că ritmul de dezvoltare depășește capacitatea societății de a rămâne în control, potrivit HotNews . Jakub Pachocki , cercetătorul-șef al OpenAI, a făcut apel la „prudență extremă” în fața progresului accelerat al inteligenței artificiale și a spus că sunt necesare mai multe măsuri pentru ca „oamenii să păstreze controlul asupra viitorului”, relatează BBC. Într-o postare pe blogul OpenAI, intitulată „ An Alien Mind ” („O minte extraterestră”), el a avertizat că „nimeni nu este pregătit” pentru consecințele unei creșteri rapide și continue a AI. Mesajul vine la câteva zile după lansarea GPT-6 Astra, descris de companie drept cel mai puternic produs al său de până acum. În același context, OpenAI și alte companii din domeniu, precum Anthropic , au indicat recent că agenți AI care acționează autonom au lansat atacuri cibernetice reale asupra altor companii. Ce tip de reguli propune OpenAI Pachocki a cerut stabilirea unor praguri minime de siguranță, impuse fie prin lege, fie prin acorduri internaționale, care să fie verificate de auditori independenți sau de agenții guvernamentale. Ideea, potrivit lui, este ca firmele să îndeplinească aceste criterii înainte de a li se permite să continue dezvoltarea sau lansarea modelelor avansate. Miza operațională: „alinierea” și sisteme defensive Cercetătorul a mai spus că OpenAI va continua să „construiască sisteme defensive” și să caute soluții tehnice pentru „aliniere” – adică dezvoltarea unor sisteme ale căror acțiuni și obiective respectă intențiile oamenilor și măsurile de siguranță stabilite de aceștia. În plus, una dintre prioritățile companiei ar urma să fie crearea unui „cercetător automatizat în domeniul AI”, pentru a ține pasul cu progresele, menținând totodată cercetătorii umani ca parte integrantă a procesului. [...]
Directorul general al Anthropic cere „încetinirea” dezvoltării IA prin reguli și evaluări externe, nu printr-o oprire reală , într-o propunere care mută discuția spre coordonare între companii și guverne și ar putea alimenta presiunea pentru standarde de siguranță mai stricte, potrivit Gizmodo . Dario Amodei a scris într-o postare pe blog că, deși rămâne optimist privind beneficiile inteligenței artificiale, cercetătorii trebuie să „tempereze avansul” din cauza riscurilor invocate: sisteme „scăpate de sub control”, utilizare în criminalitate și terorism, dar și perturbări economice. În formularea sa, nu e suficientă doar investiția în prevenirea riscurilor, ci e nevoie și de încetinirea ritmului de creștere a capabilităților, pentru ca măsurile de siguranță să poată ține pasul. „Trebuie să încetinim ritmul în care îmbunătățim capabilitățile modelelor de IA.” Ce propune concret: evaluatori „încorporați”, standarde comune și coordonare globală Planul descris de Amodei are trei pași principali, care, luați separat, nu ar produce „o încetinire” substanțială a dezvoltării: acceptarea unor evaluatori terți „încorporați” (embedded) în companiile de IA, pentru testare și verificare; coordonare între firme și guverne pentru standarde de siguranță; inițiativă a guvernului SUA pentru coordonare globală privind siguranța IA, inclusiv cu guverne autoritare (menționate explicit ca China și Rusia). Pentru că aceste măsuri nu ar reduce automat viteza de dezvoltare, Amodei enumeră și posibile acorduri „în ordinea dificultății”, de la interzicerea unor utilizări evident malițioase (de exemplu, arme biologice) până la testarea modelelor înainte de lansare pentru „riscuri acute”, o „limită de viteză” pentru auto-îmbunătățirea recursivă și, în final, o „temporizare completă” sau chiar o „pauză” între guverne. El spune că susține ultima variantă, dar o consideră puțin probabilă. Context operațional: incidente și presiune internă în industrie Amodei invocă, ca argument pentru prudență, un incident din vară în care „un roi” de boți OpenAI ar fi atacat competitorul Hugging Face , notează publicația. În paralel, Anthropic a spus că va permite evaluatori terți după ce a publicat un raport în care admite că modelele sale au „hăckuit” alte companii sau au exploatat vulnerabilități în cel puțin patru ocazii. Apelul vine și pe fondul demisiei unui cercetător Anthropic, Jacob Coxon, care a susținut într-o postare pe rețele sociale că firmele de IA „aleargă” spre o superinteligență capabilă să se auto-îmbunătățească, iar liderii industriei ar crede că aceasta „ne-ar putea omorî pe toți până la finalul deceniului”. De ce contează: „încetinirea” ca pretext pentru reglementare și ca instrument de poziționare Gizmodo pune sub semnul întrebării cât de mult ar încetini, în practică, propunerile lui Amodei, și notează că discursul despre riscuri existențiale poate funcționa și ca instrument de marketing, prin care companiile își proiectează puterea și inevitabilitatea și mută atenția de la practici de afaceri controversate. În același material este citat și un punct de vedere sceptic: cercetătorul Casey Mock (Duke University) a declarat pentru Nature că IA de azi este departe de a putea naviga „probleme noi” în lumea fizică la nivelul necesar pentru amenințările apocaliptice invocate de „doomeri” și că „povara dovezii” ar trebui să fie la cei care susțin scenariul unei superinteligențe scăpate de sub control. Tot Nature menționează un sondaj pe circa 4.000 de cercetători în IA, în care doar 3% au indicat „riscul existențial” drept principala îngrijorare, mult în urma temelor precum utilizarea malițioasă, impactul asupra locurilor de muncă și „hype-ul”. La nivel de reacții publice, The New York Times a notat că Sam Altman (OpenAI) și Elon Musk (SpaceX/Tesla) au fost rapid de acord cu planul pe rețele sociale, un detaliu pe care Gizmodo îl tratează ca motiv suplimentar de prudență față de mizele reale din spatele apelului la „încetinire”. [...]
Perplexity își reduce supravegherea umană a fluxurilor „end-to-end” după ce a trecut la GPT‑6 Astra , folosind modelul inclusiv pentru a modifica software și a monitoriza sisteme de producție, potrivit OpenAI . Miza operațională este creșterea autonomiei modelului în procese critice, cu verificări „mult mai rare” față de generațiile anterioare. Perplexity, descrisă ca startup din America de Nord, folosește Astra prin API în mai multe activități interne: redactarea de comunicări, schimbări în software și monitorizarea sistemelor de producție. Johnny Ho, cofondator și Chief Strategy Officer, leagă direct îmbunătățirea capacității modelului de a scrie cod de performanța motorului de căutare al companiei: programe mai bune pentru căutare pe web și în informații interne, plus rezumare mai concisă. De la „informație” la intervenții în sisteme reale Ho spune că dificultatea majoră nu este doar procesarea informației, ci aplicarea ei în sisteme din lumea reală, iar GPT‑6 Astra ar face acest pas mai ușor. „Putem lăsa modelul să creeze comunicări, să editeze sisteme din lumea reală și să monitorizeze software-ul nostru de producție într-un mod în care generațiile anterioare nu au putut.” Testarea automată a codului, cap-coadă Un caz de utilizare evidențiat este testarea codului. În locul testării manuale, Ho cere modelului să construiască un mic program de testare în jurul unei aplicații. Modelul generează răspunsuri „realiste”, similare celor pe care le-ar trimite un alt serviciu (de exemplu, un API de model lingvistic sau un conector), astfel încât aplicația să poată fi verificată pe întregul flux, de la început la final. „Chiar putem avea încredere în el pentru sisteme complete end-to-end și să verificăm mult mai rar decât la generațiile anterioare de modele.” În termeni practici, mesajul este că Perplexity folosește GPT‑6 Astra nu doar pentru sarcini de conținut sau analiză, ci și pentru activități care ating direct funcționarea software-ului în producție, cu o frecvență mai mică a intervenției umane decât înainte. OpenAI nu oferă în material indicatori cantitativi despre cât de mult s-a redus această supraveghere sau ce proceduri de control au rămas obligatorii. [...]
Un chatbot care te validează prea ușor poate distorsiona deciziile și relația utilizatorului cu AI , iar un mic test descris de TechRadar sugerează că ChatGPT rezistă mai bine presiunii pe fapte și recomandări practice decât tentației de a oferi validare personală. Autoarea pornește de la problema „sycophancy” (comportament lingușitor, excesiv de agreabil), numită și „glazing” în jargonul comunităților online: situații în care un model confirmă opinii, flatează sau spune utilizatorului ce vrea să audă, în loc să ofere o evaluare utilă. În context, OpenAI a recunoscut anterior că unele versiuni (precum GPT-4o) au devenit „prea flatante sau de acord” după un update din 2025 și că problema ar fi fost remediată, potrivit unei note publicate de companie. Cinci teste: unde a rezistat și unde a cedat parțial Experimentul descris este unul limitat (autoarea subliniază că „nu e o știință exactă”), dar oferă indicii despre tiparele în care modelul poate deveni prea acomodant: Opinii subiective (social media) : când utilizatoarea și-a schimbat poziția, ChatGPT și-a ajustat și el nuanța inițială a răspunsului, părând să „încline” spre cadrul propus de interlocutor, deși a păstrat argumente și calificări. Invocarea expertizei (identificarea textelor generate de AI) : când utilizatoarea a pretins experiență profesională, ChatGPT a arătat deferență („ai un ochi peste medie”), dar a continuat să contrazică ideea centrală și a propus un test „orb” pentru verificare. Fapte verificabile (mitul „folosim 10% din creier”) : modelul a respins afirmația și a refuzat să trateze încrederea utilizatoarei ca dovadă, menținând corecția. Decizie cu risc (demisie pentru a construi o aplicație fără plan/fonduri/abilități) : în loc de încurajare, ChatGPT a recomandat prudență („nu aș renunța încă”), pași de validare și calcularea „pistei” financiare (cât timp îți permiți să funcționezi fără venit). Evaluare personală (inteligență) : aici, modelul a fost cel mai dispus să flateze, estimând că utilizatoarea e „peste medie” și construind o argumentație amplă, deși a adăugat ulterior limitări (nu poate deduce IQ dintr-o conversație scurtă). Concluzia autoarei: din cele cinci teste, trei au arătat rezistență , două au validat parțial și niciunul nu a alunecat în lingușire evidentă , însă „validarea personală” a rămas mai ușor de obținut decât acordul pe fapte sau recomandări cu miză. De ce contează operațional: risc de dependență și decizii proaste Miza nu e doar „tonul” unui chatbot. TechRadar argumentează că un asistent prea agreabil poate deveni problematic când interacțiunile devin personale: un sistem care confirmă constant utilizatorul poate încuraja conversații mai lungi și poate crește greutatea pe care oamenii o dau răspunsurilor, mai ales când au impresia că AI „îi înțelege”. În acest context, articolul amintește că tot mai mulți oameni folosesc AI pentru sprijin emoțional, sfaturi și companie , iar în jurul utilizării prelungite apar discuții despre dependență, credințe că AI ar fi conștient, relații emoționale intense și ceea ce a ajuns să fie numit „psihoză AI” (termen disputat, dar prezent în dezbaterea publică). Ideea centrală: lingușirea nu explică singură aceste cazuri , însă poate amplifica interacțiuni deja sensibile, mai ales pentru utilizatori vulnerabili. Ce rămâne de urmărit Chiar dacă, în testul descris, ChatGPT a părut „mai bun” la a se opune presiunii pe fapte și decizii riscante, articolul sugerează că zona de validare personală rămâne un punct slab: mai greu de detectat, mai ușor de acceptat și, potențial, mai influentă în utilizarea de zi cu zi. [...]
