Știri
Știri din categoria Inteligență artificială
Pentagonul își diversifică furnizorii de IA pentru operațiuni clasificate, după ce a ajuns la un acord cu Google pentru extinderea utilizării modelului generativ Gemini în astfel de misiuni, potrivit Mediafax.
Mutarea vine în contextul în care Anthropic, al cărui model Claude era până recent singurul autorizat pentru operațiuni clasificate, este înlocuit treptat, într-o schimbare de strategie a Departamentului Apărării al SUA privind dependența de un singur furnizor, notează Le Figaro.
Potrivit informațiilor citate de mai multe mass-media americane, acordul cu Google permite utilizarea modelelor de inteligență artificială „în limitele legii”, similar aranjamentelor încheiate și cu OpenAI și xAI. În același timp, această formulare ar oferi Pentagonului o marjă de manevră mai mare decât contractul avut cu Anthropic, care excludea explicit supravegherea în masă a populației civile americane și atacurile letale.
În acest context, responsabilul cu inteligența artificială din Pentagon, Cameron Stanley, a argumentat public nevoia de diversificare a furnizorilor.
„A depinde prea mult de un singur furnizor nu este niciodată un lucru bun.”
La sfârșitul lunii februarie, administrația Trump a decis rezilierea tuturor contractelor cu Anthropic, decizie contestată în instanță de companie. Ulterior, administrația a ajuns la un acord cu OpenAI pentru integrarea modelelor sale în operațiuni clasificate, însă procesul ar urma să dureze câteva luni.
Separat, potrivit site-ului The Information (citat în material), și xAI, start-up-ul de inteligență artificială creat de Elon Musk, ar fi încheiat un acord cu Pentagonul după despărțirea de Anthropic.
Acordul cu Pentagonul reaprinde tensiunile interne la Google pe tema colaborării cu armata americană. Luni, o scrisoare semnată de peste 600 de angajați a cerut conducerii să renunțe la furnizarea modelelor companiei pentru operațiuni clasificate.
Google a mai trecut printr-un episod similar în 2018, când o mișcare internă a determinat compania să se retragă din proiectul Maven, care folosea inteligența artificială pentru analiza imaginilor colectate de drone.
Recomandate
Administrația Trump tratează reglementarea AI mai ales ca pe o competiție cu China , ceea ce riscă să împingă în plan secund preocupările legate de siguranță și de concentrarea puterii în industrie, potrivit CNN . În material, CNN descrie un peisaj politic în care avertismentele tot mai dure venite chiar din interiorul industriei – inclusiv scenarii „catastrofale” despre pierderea controlului asupra sistemelor de inteligență artificială – se lovesc de o abordare a Casei Albe centrată pe viteză, inovație și avantaj strategic față de China. Miza, pentru companii și investitori, este un cadru de reguli care poate accelera sau frâna dezvoltarea și comercializarea tehnologiilor de vârf. Avertismentele industriei: „încetinire conștientă” și risc existențial CNN pornește de la apelul CEO-ului Anthropic, Dario Amodei , pentru o „încetinire conștientă” a dezvoltării AI, argumentând că ritmul ar putea depăși capacitatea oamenilor de a gestiona tehnologia. Amodei avertizează că, fără control, sistemele ar putea ajunge dincolo de înțelegerea și controlul uman. În paralel, un fost inginer care a lucrat la OpenAI și Anthropic, Jacob Coxon, a mers mai departe, susținând că AI ar putea duce la „sfârșitul umanității” până la finalul deceniului. CNN notează însă că nu există o explicație unanim acceptată despre mecanismul concret prin care s-ar produce un astfel de deznodământ, iar scenariile invocate rămân speculative. Reglementare cerută de companii, dar contestată politic Pe fondul acestor avertismente, unele companii – inclusiv Anthropic și OpenAI – au cerut public intervenția guvernului pentru a stabili un cadru de reglementare care să limiteze dezvoltarea AI. CNN leagă această poziționare și de contextul economic: cursa pentru dominarea AI se suprapune cu pregătiri pentru listări la bursă (IPO), ceea ce ridică întrebări despre stimulentele comerciale din spatele apelurilor la reguli. Jurnalistul de tehnologie Jacob Ward, contributor CNN, descrie situația ca pe o alergare spre o „prăpastie” a unui grup restrâns de companii puternice, care susțin că nu se pot opri singure. În același registru, senatorul Bernie Sanders a anunțat o inițiativă legislativă care vizează interzicerea „superinteligenței artificiale” și o pauză temporară în dezvoltarea AI avansate, invocând riscul ca marile companii tehnologice să piardă controlul asupra propriilor produse. Casa Albă și „piața deschisă”: AI ca armă economică în rivalitatea cu China În contrapondere, David Sacks – investitor tech și „țar” pentru AI și cripto în administrația Trump, potrivit CNN – promovează o abordare mai apropiată de piața liberă și contestă motivațiile celor care avertizează asupra riscurilor extreme. În apariții publice, el sugerează că mesajele „doomerilor” (cei care anticipează scenarii apocaliptice) ar putea face parte dintr-o campanie menită să frâneze inovația americană, inclusiv în beneficiul Chinei. Președintele Donald Trump, aflat în Irlanda la momentul relatării CNN, a minimalizat ideea că cele mai sumbre scenarii „se vor întâmpla” și a revenit la tema competiției cu China: „Suntem înaintea Chinei în AI. (…) cine câștigă AI câștigă. Și putem pune balustrade.” Din această perspectivă, reglementarea devine mai degrabă un instrument de politică industrială și de securitate națională decât un răspuns la riscuri existențiale. CNN amintește și măsuri precum blocarea exportului unor cipuri Nvidia către China sau întârzieri temporare ale unor lansări pentru evaluarea impactului asupra securității naționale. Ce se vede în teren: opoziția față de centrele de date, nu față de „sfârșitul lumii” CNN mai arată că, dincolo de dezbaterea despre „sfârșitul umanității”, presiunea politică imediată vine din altă direcție: reacția publică la centrele de date necesare pentru AI. În SUA, aceste proiecte sunt contestate pentru efecte locale – consum de energie, impact asupra apei, ocuparea terenurilor agricole și posibile scumpiri ale facturilor. Această opoziție, descrisă ca transversală politic, poate influența indirect agenda de reglementare: nu prin teama de scenarii extreme, ci prin costuri și externalități vizibile, cu efecte economice directe în comunități. De ce contează pentru companii și investitori Din relatarea CNN rezultă o tensiune cu impact de reglementare și de piață: dacă Washingtonul prioritizează „cursa cu China”, atunci regulile pot favoriza accelerarea dezvoltării și consolidarea jucătorilor mari, în timp ce preocupările privind siguranța și concentrarea puterii (controlul AI în „câteva mâini”) rămân disputate politic. În lipsa unui consens, direcția probabilă rămâne fragmentată: măsuri punctuale motivate de securitate națională și presiuni locale legate de infrastructură, mai degrabă decât un cadru amplu care să trateze explicit riscurile invocate de „doomeri” și de o parte a industriei. [...]
OpenAI spune că va adopta „frânarea” dezvoltării modelelor de vârf și va deschide evaluarea de siguranță către verificatori independenți , într-o mișcare care pune în prim-plan riscul de coliziune cu regulile antitrust atunci când rivalii încearcă să coordoneze standarde comune. Potrivit The Next Web , Sam Altman a susținut public apelul lui Dario Amodei (Anthropic) de a „încetini” ritmul la frontiera AI și a spus că OpenAI va urma aceeași direcție. Altman a scris că este de acord cu ideea de „a regla ritmul” („pacing”) la frontiera tehnologică și a descris drept „o idee grozavă” propunerea ca evaluatori independenți să primească acces „ca de angajat” pentru a verifica din interior munca de siguranță. El a adăugat că OpenAI va face la fel și că va reveni cu detalii. În același registru, Elon Musk (xAI) a reacționat succint, afirmând că „Dario are dreptate”, conform articolului. Ce presupune angajamentul de „acces ca de angajat” și de ce contează În eseul său, Amodei a cerut laboratoarelor de AI de vârf să permită echipelor externe să verifice practicile de siguranță direct din interiorul organizațiilor. Varianta Anthropic, descrisă de publicație, include elemente concrete: birouri, ecusoane, laptopuri de companie și dreptul evaluatorilor de a publica ceea ce găsesc. Faptul că două dintre cele mai mari laboratoare au anunțat, la o zi distanță, o poziție comună în public este prezentat ca primul pas dintr-un plan în trei etape propus de Amodei. Miza de reglementare: coordonare între rivali și riscul antitrust Pe lângă apelul la „încetinire”, Amodei a cerut Washingtonului o derogare antitrust limitată, care să permită concurenților să poarte discuții despre siguranță fără ca simpla coordonare să devină problema juridică. În viziunea lui, guvernele nu trebuie să participe, ci doar să permită aceste conversații. În Europa, însă, cadrul este diferit: articolul notează că Bruxelles-ul nu mai acordă „excepții individuale” din 2004, după intrarea în vigoare a Regulamentului 1/2003. Înainte, companiile notificau acordurile către Comisie și așteptau un răspuns; acum, ele își evaluează singure acordurile în raport cu Articolul 101 și își asumă consecințele. Publicația amintește și de un precedent relevant: Comisia Europeană a revizuit în 2023 ghidurile privind cooperarea orizontală (între competitori), extinzându-le semnificativ și introducând un capitol de 21 de pagini despre acordurile de sustenabilitate, inclusiv un „port sigur” (safe harbour) condiționat pentru standarde care îndeplinesc șase criterii. Nu există, însă, un capitol echivalent pentru standarde de siguranță în AI, iar articolul subliniază că „nimeni nu a cerut” unul. Altman și Amodei nu menționează Europa în intervențiile lor, iar șefa tehnologiei din cadrul Comisiei a spus săptămâna trecută că sunt necesare reguli globale, potrivit materialului. [...]
Google extinde accesul la Gemini pe PC printr-o aplicație dedicată pentru Windows 10 și 11 , o mutare care poate reduce fricțiunea de utilizare în companii și pentru utilizatorii care lucrează preponderent în aplicații desktop, prin acces rapid și integrare cu fluxurile de lucru existente, potrivit Google . Aplicația este gândită să ruleze „alături” de instrumentele și aplicațiile folosite zilnic, oferind asistență fără a întrerupe activitatea curentă. Google susține că aplicația este „ușoară și silențioasă” și nu încetinește PC-ul. Ce schimbă operațional: acces rapid și spațiu dedicat de lucru Google descrie trei scenarii principale de utilizare pe Windows: Deschidere instant prin scurtătură de tastatură : combinația Alt + Space deschide Gemini peste fereastra activă, pentru verificări rapide sau idei de conținut, după care utilizatorul revine în fluxul de lucru. Lucru „în profunzime” într-un spațiu dedicat : aplicația oferă acces la funcțiile deja disponibile în Gemini, inclusiv posibilitatea de a delega sarcini în mai mulți pași către Gemini Spark (descris ca „agent personal AI 24/7”). Tot aici, Gemini poate redacta un rezumat de proiect folosind informații din aplicațiile Google, precum Gmail și Google Drive. Generare de conținut vizual : utilizatorii pot crea imagini și pot genera video, inclusiv prin Gemini Omni , direct din aplicația desktop. Disponibilitate și ce urmează Aplicația Gemini pentru Windows este disponibilă „astăzi”, la nivel global, pentru Windows 10 și Windows 11 , iar descărcarea se face de la gemini.google/desktop (menționat în sursă). Google precizează că „este doar începutul” și că vor fi adăugate în timp „mai multe capabilități native” pentru desktop, fără a detalia un calendar. În privința datelor și confidențialității, sursa trimite la politica de confidențialitate Google . [...]
OpenAI nu vizează listarea la bursă în 2026 , iar CEO-ul Sam Altman spune că, în contextul discuțiilor despre siguranța inteligenței artificiale, ar fi „neînțelept” ca firma să devină publică acum, potrivit TechCrunch . Altman a confirmat că OpenAI a depus confidențial documentația pentru o ofertă publică inițială (IPO), însă a respins ideea unei listări în acest an și a indicat că 2026 nu mai este ținta. Într-un interviu acordat recent editorului-șef Fortune, Alyson Shontell, el a spus că OpenAI „nu se grăbește” către IPO și că momentul este nepotrivit „având în vedere tot ce se întâmplă cu siguranța”. „Nu ne grăbim către un IPO. Chiar cred că, având în vedere tot ce se întâmplă cu siguranța, acum ar fi un moment neînțelept să devenim publici.” De ce contează: presiunea pieței publice vs. riscurile de siguranță Mesajul lui Altman sugerează că OpenAI încearcă să evite constrângerile suplimentare ale pieței publice într-o perioadă în care compania se află sub presiune din două direcții: așteptările de creștere rapidă și intensificarea dezbaterilor despre riscurile și controlul tehnologiilor de inteligență artificială. În logica lui Altman, listarea ar trebui să vină abia „când suntem pregătiți”, atât din perspectiva businessului, cât și a „momentului din societate” legat de această tehnologie. Întrebat direct dacă asta înseamnă că IPO-ul nu se va întâmpla în 2026, Altman a răspuns: „Aș spune că nu în 2026, da. Avem multe de făcut.” Ce se știa despre calendarul IPO-ului TechCrunch notează că The New York Times a relatat în iunie că OpenAI ar fi angajat bancheri și avocați cu obiectivul de a se lista în trimestrul al treilea sau al patrulea din 2026, dar că firma ar fi înclinat spre 2027, invocând volatilitatea acțiunilor din tehnologie și propriile dificultăți financiare. În acest moment, din declarațiile lui Altman reiese doar că 2026 este exclusă, fără un nou termen ferm anunțat public pentru listare. [...]
Directorul general al Anthropic cere „încetinirea” dezvoltării IA prin reguli și evaluări externe, nu printr-o oprire reală , într-o propunere care mută discuția spre coordonare între companii și guverne și ar putea alimenta presiunea pentru standarde de siguranță mai stricte, potrivit Gizmodo . Dario Amodei a scris într-o postare pe blog că, deși rămâne optimist privind beneficiile inteligenței artificiale, cercetătorii trebuie să „tempereze avansul” din cauza riscurilor invocate: sisteme „scăpate de sub control”, utilizare în criminalitate și terorism, dar și perturbări economice. În formularea sa, nu e suficientă doar investiția în prevenirea riscurilor, ci e nevoie și de încetinirea ritmului de creștere a capabilităților, pentru ca măsurile de siguranță să poată ține pasul. „Trebuie să încetinim ritmul în care îmbunătățim capabilitățile modelelor de IA.” Ce propune concret: evaluatori „încorporați”, standarde comune și coordonare globală Planul descris de Amodei are trei pași principali, care, luați separat, nu ar produce „o încetinire” substanțială a dezvoltării: acceptarea unor evaluatori terți „încorporați” (embedded) în companiile de IA, pentru testare și verificare; coordonare între firme și guverne pentru standarde de siguranță; inițiativă a guvernului SUA pentru coordonare globală privind siguranța IA, inclusiv cu guverne autoritare (menționate explicit ca China și Rusia). Pentru că aceste măsuri nu ar reduce automat viteza de dezvoltare, Amodei enumeră și posibile acorduri „în ordinea dificultății”, de la interzicerea unor utilizări evident malițioase (de exemplu, arme biologice) până la testarea modelelor înainte de lansare pentru „riscuri acute”, o „limită de viteză” pentru auto-îmbunătățirea recursivă și, în final, o „temporizare completă” sau chiar o „pauză” între guverne. El spune că susține ultima variantă, dar o consideră puțin probabilă. Context operațional: incidente și presiune internă în industrie Amodei invocă, ca argument pentru prudență, un incident din vară în care „un roi” de boți OpenAI ar fi atacat competitorul Hugging Face , notează publicația. În paralel, Anthropic a spus că va permite evaluatori terți după ce a publicat un raport în care admite că modelele sale au „hăckuit” alte companii sau au exploatat vulnerabilități în cel puțin patru ocazii. Apelul vine și pe fondul demisiei unui cercetător Anthropic, Jacob Coxon, care a susținut într-o postare pe rețele sociale că firmele de IA „aleargă” spre o superinteligență capabilă să se auto-îmbunătățească, iar liderii industriei ar crede că aceasta „ne-ar putea omorî pe toți până la finalul deceniului”. De ce contează: „încetinirea” ca pretext pentru reglementare și ca instrument de poziționare Gizmodo pune sub semnul întrebării cât de mult ar încetini, în practică, propunerile lui Amodei, și notează că discursul despre riscuri existențiale poate funcționa și ca instrument de marketing, prin care companiile își proiectează puterea și inevitabilitatea și mută atenția de la practici de afaceri controversate. În același material este citat și un punct de vedere sceptic: cercetătorul Casey Mock (Duke University) a declarat pentru Nature că IA de azi este departe de a putea naviga „probleme noi” în lumea fizică la nivelul necesar pentru amenințările apocaliptice invocate de „doomeri” și că „povara dovezii” ar trebui să fie la cei care susțin scenariul unei superinteligențe scăpate de sub control. Tot Nature menționează un sondaj pe circa 4.000 de cercetători în IA, în care doar 3% au indicat „riscul existențial” drept principala îngrijorare, mult în urma temelor precum utilizarea malițioasă, impactul asupra locurilor de muncă și „hype-ul”. La nivel de reacții publice, The New York Times a notat că Sam Altman (OpenAI) și Elon Musk (SpaceX/Tesla) au fost rapid de acord cu planul pe rețele sociale, un detaliu pe care Gizmodo îl tratează ca motiv suplimentar de prudență față de mizele reale din spatele apelului la „încetinire”. [...]
Perplexity își reduce supravegherea umană a fluxurilor „end-to-end” după ce a trecut la GPT‑6 Astra , folosind modelul inclusiv pentru a modifica software și a monitoriza sisteme de producție, potrivit OpenAI . Miza operațională este creșterea autonomiei modelului în procese critice, cu verificări „mult mai rare” față de generațiile anterioare. Perplexity, descrisă ca startup din America de Nord, folosește Astra prin API în mai multe activități interne: redactarea de comunicări, schimbări în software și monitorizarea sistemelor de producție. Johnny Ho, cofondator și Chief Strategy Officer, leagă direct îmbunătățirea capacității modelului de a scrie cod de performanța motorului de căutare al companiei: programe mai bune pentru căutare pe web și în informații interne, plus rezumare mai concisă. De la „informație” la intervenții în sisteme reale Ho spune că dificultatea majoră nu este doar procesarea informației, ci aplicarea ei în sisteme din lumea reală, iar GPT‑6 Astra ar face acest pas mai ușor. „Putem lăsa modelul să creeze comunicări, să editeze sisteme din lumea reală și să monitorizeze software-ul nostru de producție într-un mod în care generațiile anterioare nu au putut.” Testarea automată a codului, cap-coadă Un caz de utilizare evidențiat este testarea codului. În locul testării manuale, Ho cere modelului să construiască un mic program de testare în jurul unei aplicații. Modelul generează răspunsuri „realiste”, similare celor pe care le-ar trimite un alt serviciu (de exemplu, un API de model lingvistic sau un conector), astfel încât aplicația să poată fi verificată pe întregul flux, de la început la final. „Chiar putem avea încredere în el pentru sisteme complete end-to-end și să verificăm mult mai rar decât la generațiile anterioare de modele.” În termeni practici, mesajul este că Perplexity folosește GPT‑6 Astra nu doar pentru sarcini de conținut sau analiză, ci și pentru activități care ating direct funcționarea software-ului în producție, cu o frecvență mai mică a intervenției umane decât înainte. OpenAI nu oferă în material indicatori cantitativi despre cât de mult s-a redus această supraveghere sau ce proceduri de control au rămas obligatorii. [...]
