Știri
Știri din categoria Inteligență artificială
Agențiile federale americane continuă să testeze și să ceară briefinguri despre modelul AI „Mythos” al Anthropic, în pofida unei interdicții impuse de președintele Donald Trump, potrivit informațiilor relatate de HotNews. Miza este una operațională și de securitate: guvernul pare să caute acces la capabilități avansate de „scanare” și testare cibernetică, chiar dacă relația oficială cu compania este blocată.
Centrul pentru Standarde și Inovație în domeniul inteligenței artificiale din cadrul Departamentului Comerțului testează activ capacitățile de „hacking” ale celui mai nou model Anthropic, numit Mythos, notează publicația, citând Politico și Reuters. În paralel, personalul din cel puțin trei comisii ale Congresului a organizat sau a solicitat, în ultima săptămână, briefinguri de la companie pentru a înțelege mai bine capacitățile de scanare cibernetică ale modelului.
Din informațiile disponibile, contactele cu Anthropic nu s-au oprit complet, deși există o interdicție prezidențială privind colaborarea:
În același timp, natura și detaliile discuțiilor dintre Anthropic și guvernul SUA – inclusiv ce agenții sunt implicate – „nu sunt foarte clare la acest moment”, potrivit materialului.
Mythos a fost anunțat pe 7 aprilie și este descris de companie drept „cel mai capabil model al Anthropic până în prezent” pentru sarcini de programare și sarcini „agentice” (adică poate acționa autonom). HotNews amintește că Anthropic a prezentat săptămâna trecută „Claude Mythos Preview”, un model pe care compania nu intenționează să îl lanseze public, urmând să fie accesibil doar unui grup restrâns de organizații – în principal companii mari de tehnologie și actori din securitate cibernetică.
Motivul invocat este riscul: compania susține că modelul ar putea depăși aproape toți experții umani în descoperirea și chiar exploatarea vulnerabilităților software, inclusiv a unor breșe foarte subtile, care ar rămâne în mod normal nedetectate.
Potrivit Reuters, Anthropic, Casa Albă și Departamentul Comerțului nu au răspuns imediat solicitărilor de declarații. În lipsa unor clarificări oficiale, rămâne neprecizat în ce măsură activitățile descrise (testare, briefinguri, discuții) se încadrează sau nu în interdicția menționată și ce consecințe administrative ar putea urma.
Recomandate
Anthropic cere o „pedală de frână” pentru AI , avertizând că industria se apropie de momentul în care modelele ar putea începe să se îmbunătățească singure, ceea ce ar crește riscul pierderii controlului asupra acestor sisteme, potrivit HotNews . Avertismentul vine dintr-o postare pe blogul companiei, semnată de Marina Favaro , directoarea Institutului Anthropic, și Jack Clark , cofondator al Anthropic. Ei susțin că modelele de inteligență artificială evoluează atât de rapid încât ar putea ajunge „în curând” să se dezvolte fără intervenția omului. Ce înseamnă „autoperfecționarea recursivă” și de ce contează Cei doi descriu un scenariu în care sistemele ar deveni capabile să-și construiască „propriii succesori” – concept numit „autoperfecționare recursivă completă”. În această situație, spun ei, miza se mută pe capacitatea de a securiza, monitoriza și modela comportamentul AI, pentru că riscul ca oamenii să piardă controlul ar crește. În același timp, Anthropic afirmă că o astfel de evoluție ar putea aduce beneficii majore, inclusiv pentru știință și sănătate, dar tocmai potențialul ridicat face ca riscurile să fie mai greu de gestionat. Ce măsuri propune Anthropic pentru a reduce riscurile În evaluarea companiei, industria este „mult mai aproape” de acest prag decât se estima inițial. De aici și recomandarea ca firmele de tehnologie să ia în calcul: încetinirea sau chiar suspendarea dezvoltării de vârf în AI, pentru a oferi timp cercetătorilor să înțeleagă mai bine efectele negative posibile asupra societății; crearea unui mecanism care să permită intervenția oamenilor dacă lucrurile „scapă de sub control”. Într-un interviu pentru CNN, Jack Clark a folosit o metaforă pentru a descrie lipsa instrumentelor de control: „Când mă uit la mașina pe care o conduc, nu văd decât pedala de accelerație. Nu am pedală de frână, iar cu siguranță, la un moment dat în viitor, s-ar putea să ne dorim această opțiune.” Contextul complet al argumentației este detaliat pe blogul companiei, în materialul despre „recursive self-improvement”, publicat de Anthropic: blogul . [...]
Anthropic cere o pauză globală în dezvoltarea „AI de frontieră” , susținând că tehnologia se apropie de un prag în care ar putea scăpa de sub control, potrivit Futurism . Compania spune că modelele sale din familia Claude ar putea evolua spre „auto-îmbunătățire recursivă” (capacitatea unui sistem de a se îmbunătăți singur), un scenariu ipotetic care ar crește riscul ca sisteme foarte puternice să acționeze în afara intereselor umane. Într-o postare amplă pe blog publicată joi, Anthropic afirmă că nu s-a ajuns încă la acest punct, dar avertizează că momentul „ar putea veni mai repede decât sunt pregătite majoritatea instituțiilor”. Compania pledează pentru posibilitatea de a încetini sau opri temporar dezvoltarea celor mai avansate modele, astfel încât „structurile societale” și cercetarea privind „alinierea” (adică metodele prin care comportamentul unui model este făcut compatibil cu obiectivele și valorile umane) să țină pasul cu progresul tehnologic. O pauză globală, greu de aplicat și de verificat Anthropic admite că o încetinire „semnificativă” ar necesita un acord între mai multe laboratoare bine finanțate, din mai multe țări, care să se oprească „în aceleași condiții” — un aranjament pe care compania îl descrie ca dificil de impus. În text este invocată și problema verificării: „antrenările” (rulările de instruire a modelelor) ar fi mult mai ușor de ascuns decât infrastructura militară clasică. Miza competitivă: cine ar câștiga dintr-o frână trasă acum Materialul notează că apelul la pauză vine într-un moment favorabil pentru Anthropic: în ultimele luni, compania ar fi depășit OpenAI și ar fi ajuns „cel mai valoros” startup de AI, la o evaluare de 1 trilion de dolari (aprox. 4,6 trilioane lei). În același timp, modelele sale sunt descrise ca fiind, în percepția generală, cele mai bune din domeniu, mai ales la sarcini de programare — ceea ce ar însemna că o încetinire a industriei „i-ar cimenta dominația”, dacă ar avea loc acum. Nu toată lumea acceptă însă argumentația companiei. Criticul de AI Gary Marcus califică postarea drept un „bait and switch” (o tactică prin care promiți un lucru, dar livrezi altceva), susținând că Anthropic încearcă să inducă teamă, deși ar fi demonstrat în esență „doar programare mai rapidă”, sub control uman. „Un instrument de programare mai rapid probabil nu va sfârși lumea”, a scris Marcus, citat de publicație. Contextul de credibilitate: „siguranță” vs. utilizări militare și de securitate Futurism plasează apelul la pauză în contextul unei imagini publice pe care Anthropic ar fi cultivat-o de ani buni — aceea de actor „etic” și prudent. În același timp, articolul amintește mai multe episoade care ar submina această poziționare: o dispută cu Pentagonul legată de riscul folosirii AI în armament autonom și supraveghere în masă, precum și informația apărută ulterior că Claude ar fi fost utilizat pentru a ajuta la selectarea țintelor de lovire în Iran. În plus, este menționat că, pe fondul conflictului cu armata, Anthropic ar fi renunțat la un angajament de siguranță: să oprească antrenarea unui sistem AI dacă nu poate garanta existența unor „balustrade” (măsuri de protecție) adecvate. Profesorul Steven Murdoch (University College London) este citat spunând că definiția companiei despre siguranța AI ar fi „îngustă”, invocând o relatare a Financial Times potrivit căreia Anthropic ar ajuta Agenția Națională de Securitate a SUA (NSA) să folosească modelul Mythos pentru operațiuni de război cibernetic împotriva unor potențiali adversari precum China și Iran. Murdoch a făcut declarația pentru The Guardian, conform articolului. Ce urmează Indiferent dacă o pauză globală este realistă, Anthropic spune că va continua demersurile: în lunile următoare, compania intenționează să organizeze discuții cu factori de decizie, cercetători, societatea civilă și alte companii de AI, axate pe întrebări legate de „auto-îmbunătățirea recursivă” și pe opțiuni de coordonare. Anthropic afirmă că va publica rezultatele acestor conversații. [...]
OpenAI, Google DeepMind, Microsoft AI și Anthropic cer controale obligatorii la vânzarea de ADN sintetic , avertizând că progresul rapid al inteligenței artificiale poate reduce barierele pentru obținerea de informații și materiale care ar putea fi folosite la dezvoltarea de arme biologice, potrivit G4Media . Într-o scrisoare adresată Congresului SUA , liderii acestor companii solicită reglementări urgente pentru achiziția de ADN sintetic, inclusiv verificarea identității clienților și controale obligatorii asupra comenzilor. Miza, în logica semnatarilor, este închiderea unui „gol” de reglementare: în prezent, verificările sunt aplicate fragmentat, voluntar, fără un cadru legal unitar. ADN-ul sintetic – material genetic creat în laborator, disponibil în unele cazuri prin comenzi online – este folosit pe scară largă în cercetarea biomedicală, inclusiv pentru vaccinuri și terapii, dar și pentru metode noi de stocare a datelor digitale. În același timp, experții citați avertizează că aceleași instrumente ar putea fi folosite pentru a recrea sau modifica agenți patogeni periculoși dacă ajung la actori rău intenționați. Ce propun companiile și de ce contează operațional Industria AI cere introducerea unor cerințe obligatorii, cu efect direct asupra modului în care s-ar face vânzarea și urmărirea comenzilor de ADN sintetic: verificări obligatorii ale comenzilor; verificarea identității cumpărătorilor; păstrarea unor evidențe detaliate, pentru a permite investigarea activităților suspecte. Reprezentanții companiilor susțin că aceste măsuri ar fi printre cele mai eficiente și mai puțin costisitoare modalități de reducere a riscurilor de biosecuritate. AI și „bariera” către informații sensibile Potrivit materialului, riscul nu este complet nou, însă dezvoltarea accelerată a AI schimbă semnificativ profilul de amenințare: unele modele avansate pot furniza deja răspunsuri „la nivel de expert” în domenii precum virologia, inclusiv despre proceduri complexe de laborator. Consecința invocată este că accesul la informații sensibile devine mai ușor pentru persoane fără pregătire de specialitate. Îngrijorări similare au fost exprimate și de cercetători de la universități precum Oxford, Stanford și Johns Hopkins, care avertizează că accesul necontrolat la baze de date biologice și utilizarea AI în cercetare ar putea facilita proiectarea sau modificarea unor agenți patogeni periculoși. Printre soluțiile discutate se află mecanisme de verificare a utilizatorilor și sisteme de monitorizare pentru detectarea utilizărilor abuzive. Europa: discuții pentru un cadru comun, dar fără lege unitară La nivelul Uniunii Europene, tema este inclusă în discuțiile privind viitorul Act pentru Biotehnologie, prezentat de Comisia Europeană în 2025. Documentul tratează ADN-ul și ARN-ul sintetic drept tehnologii sensibile din perspectiva biosecurității și propune un cadru comun pentru verificarea clienților și raportarea comenzilor suspecte. În prezent, nu există o legislație unitară la nivelul UE care să reglementeze direct acest domeniu, iar dezbaterea se poartă pe fondul extinderii rapide a AI și al eforturilor autorităților de a anticipa riscuri emergente. În această logică, biosecuritatea este indicată tot mai des ca posibil „următor domeniu major de reglementare” în era AI. [...]
AI-ul comprimă ritmul schimbării mai repede decât pot reacționa instituțiile , iar pentru România riscul imediat este să ajungă dependentă de infrastructură și modele dezvoltate în afara țării, cu efecte directe asupra capacității statului de a guverna și a economiei de a concura, potrivit unei analize publicate de Digi24 . Textul argumentează că „suveranitatea” în secolul XXI nu mai înseamnă doar control teritorial, ci controlul fluxurilor critice: date, energie, capital, semiconductori, modele de inteligență artificială, lanțuri logistice și securitate cibernetică. Miza devine capacitatea de a procesa informația și de a o transforma rapid în decizie și „capacitate materială” (infrastructură, producție, apărare, servicii publice). De ce contează: decalajul dintre tehnologie și democrație Analiza descrie o ruptură între viteza adaptării tehnologice și viteza adaptării instituționale. În timp ce instituțiile se schimbă în ani sau decenii, platformele digitale își pot ajusta algoritmii în ore, iar un model AI poate fi reantrenat și distribuit global înainte ca un parlament să finalizeze audieri. Consecința, în logica autorului, este un „decalaj esențial”: tehnologia ajunge să proceseze realitatea mai repede decât o poate înțelege și guverna democrația, care rămâne „analogică”, birocratică și construită pentru alte cicluri. AI-ul ca infrastructură, nu ca aplicație: dependența ca risc strategic Un punct central este că AI-ul nu ar trebui tratat ca o unealtă pe care o „deschizi și o închizi”, ci ca un mediu – un strat operațional care va intra în educație, administrație, apărare, sănătate, justiție, finanțe, presă și viața privată. În acest context, întrebările relevante devin operaționale și economice: cine proiectează, controlează, auditează, alimentează și plătește aceste sisteme. Pentru România și Europa, analiza pune problema unei alegeri strategice: utilizatori ai sistemelor altora sau constructori de capacități proprii. Dependența, avertizează autorul, poate lua forma „lipsei alternativelor”: administrații care rulează pe infrastructură străină, companii care nu pot concura fără modele externe, armate care cumpără sisteme pe care nu le pot repara, cetățeni într-un spațiu informațional filtrat de algoritmi neverificabili. Ce ar presupune un „ stat-platformă ” și un sistem imunitar informațional În locul unui „stat-algoritm” (riscant) sau al unui „stat-dosar” (ineficient), textul propune ideea de „stat-platformă”, definit ca infrastructură publică deschisă, interoperabilă, auditată și transparentă, capabilă să integreze inovația fără pierderea controlului democratic. Sunt enumerate câteva componente: date publice „curate”, identitate digitală funcțională, sisteme interoperabile, audit algoritmic și competență tehnologică în instituții, plus parteneriate între stat, universități și industrie. Separat, analiza avertizează că democrația poate fi atacată nu doar prin minciună, ci prin „supraîncărcare” informațională, într-un mediu în care AI poate produce limbaj la scară industrială. În această logică, alfabetizarea digitală devine infrastructură de securitate națională, iar presa independentă – parte din mecanismul de verificare a realității. „Substratul” material: AI-ul depinde de energie, cipuri și infrastructură Un alt element cu implicații economice este insistența că AI nu este „pură informație”, ci are nevoie de materie: energie, servere, cabluri, sateliți, apă pentru răcire și capacitate industrială. De aici rezultă că discuția despre AI nu poate fi separată de energie, apărare, industrie și autonomie strategică. Pentru România, concluzia analizei este că intrarea în epoca AI nu poate fi redusă la achiziții „la cheie” sau la cumpărarea de licențe sub eticheta digitalizării. Autorul susține că fondurile europene, investițiile în apărare, reconstrucția industrială, educația tehnică, cercetarea aplicată și infrastructura digitală ar trebui gândite împreună, ca strategie de supraviețuire într-o competiție între societăți. În final, textul plasează miza în capacitatea de a orienta evoluția tehnologică prin instituții și reguli: AI va amplifica ceva, iar întrebarea este dacă amplifică democrația și autonomia sau manipularea și dependența. Limitarea importantă: analiza nu propune un calendar sau măsuri legislative concrete, ci trasează un cadru de risc și direcții generale de acțiune pentru stat și economie. [...]
Sam Altman cere Congresului SUA să evite aprobarea guvernamentală înaintea lansării noilor modele AI , o poziție care ar putea influența direct ritmul de inovare și costurile de conformare pentru întreaga industrie, în condițiile în care OpenAI se pregătește „în secret” de listarea la bursă, potrivit HotNews , care citează Reuters. Miza este una de reglementare: Altman se va opune propunerilor care ar obliga dezvoltatorii să obțină aprobarea guvernului american înainte de a lansa către public noi modele de inteligență artificială. OpenAI a transmis, într-un comunicat, că demersul face parte dintr-un efort de a influența modul în care va fi reglementată tehnologia. Ce alternativă propune OpenAI: mai multă testare, nu „aprobare înainte de lansare” În vizita sa la Washington, Altman urmează să le ceară parlamentarilor să crească finanțarea pentru testarea inteligenței artificiale în cadrul Departamentului Comerțului al SUA. Instituția colaborează deja cu companii precum OpenAI și Anthropic pentru testarea modelelor, iar OpenAI vrea extinderea inițiativei. Compania susține că programul ar trebui să includă și cercetători cu expertiză în domenii precum securitatea cibernetică, armele biologice și securitatea națională, între altele. De ce contează acum: presiune pe profitabilitate și pe calendarul lansărilor Potrivit Reuters, vizita lui Altman are loc într-un moment „critic” pentru OpenAI și pentru industrie. Publicația notează că OpenAI se pregătește să depună confidențial o cerere de listare la bursă, în timp ce rivalul Anthropic (dezvoltatorul modelului Claude) a depus deja o solicitare similară. În acest context, cerințele guvernului american ar putea afecta profiturile dacă încetinesc lansarea noilor modele. În plus, companiile ar putea fi obligate să își modifice produsele pentru a răspunde cerințelor de securitate. Întâlniri la Congres și reacția Casei Albe Altman avea programate miercuri întâlniri cu membri ai Congresului, inclusiv cu președintele Camerei Reprezentanților, Mike Johnson. Administrația de la Casa Albă nu a răspuns solicitărilor de a comenta eventuale întrevederi, potrivit aceleiași surse. Sursa secundară: Reuters . [...]
Anthropic își pregătește IPO-ul cu Morgan Stanley și Goldman Sachs, dar miza reală este factura de infrastructură dezvăluită indirect: un acord de calcul cu SpaceX de 1,25 miliarde de dolari pe lună (aprox. 5,8 miliarde lei), potrivit The Next Web . Alegerea băncilor și calendarul vizat (octombrie) conturează o listare care ar putea deveni una dintre cele mai mari din tehnologie, însă costurile recurente pentru capacitate de calcul ridică întrebări despre marje și riscuri operaționale înainte de intrarea pe bursă. Anthropic a selectat Morgan Stanley și Goldman Sachs pentru a conduce oferta publică inițială (IPO), cu JPMorgan Chase implicată în tranzacție, după ce compania a depus confidențial documentele pentru listare. Conform informațiilor citate de publicație dintr-un material Bloomberg , echipa de bănci ar putea fi extinsă, iar parametrii ofertei se pot modifica. Contractul SpaceX: 325.000 de cipuri Nvidia și 1,25 miliarde dolari pe lună Detaliul cu cel mai mare impact economic nu vine din comunicările Anthropic, ci din documentația de listare a SpaceX (S-1), care arată că SpaceX furnizează către Anthropic capacitate de calcul pentru inteligență artificială, inclusiv aproximativ 325.000 de cipuri Nvidia, la un cost de 1,25 miliarde de dolari pe lună (aprox. 5,8 miliarde lei). Acordul se întinde până în mai 2029 și poate fi reziliat de oricare dintre părți cu un preaviz de 90 de zile, după o perioadă inițială de trei luni. Publicația notează că această relație face din SpaceX simultan furnizor pentru Anthropic, competitor (prin chatbotul Grok) și, în același timp, candidat la propria listare. La nivel anualizat, contractul ar echivala cu 15 miliarde de dolari (aprox. 69 miliarde lei) doar pentru calcul, ceea ce pune în perspectivă dimensiunea dependenței de infrastructură și presiunea pe profitabilitate. Ce poate deveni „material” în prospectul de listare The Next Web subliniază că, odată ce documentul S-1 al Anthropic va fi public, compania ar trebui să prezinte acest acord ca o relație relevantă pentru investitori, în contextul suprapunerii competitive dintre părți. În practică, astfel de aranjamente sunt urmărite atent pentru riscuri de continuitate a serviciului, putere de negociere și potențiale conflicte de interese. În paralel, Anthropic intră într-o „aglomerare” de listări mari în tehnologie, cu SpaceX și OpenAI menționate ca alte nume care se pregătesc pentru piața publică, ceea ce poate intensifica competiția pentru capital și poate influența evaluările. Context: creștere accelerată, dar și un risc de reglementare Pe lângă componenta de infrastructură, un alt element de risc menționat este desemnarea de către Pentagon a Anthropic ca risc pe lanțul de aprovizionare , după ce compania ar fi refuzat acces nerestricționat la modele pentru zona militară; Anthropic a spus că situația ar putea pune în pericol miliarde de dolari în venituri. Modul în care acest risc va fi descris și cuantificat în documentația de listare este prezentat ca un punct sensibil pentru investitorii de pe piețele publice. În acest cadru, IPO-ul Anthropic devine mai mult decât o simplă alegere de bănci: este un test despre cât de mult sunt dispuși investitorii să plătească pentru creștere în AI atunci când costul de bază — calculul — poate ajunge la niveluri de ordinul zecilor de miliarde de dolari anual. [...]
