Știri
Știri din categoria Inteligență artificială
Amazon își securizează pe 10 ani cererea de calcul pentru AI printr-un acord care poate duce investiția în Anthropic la 33 mld. dolari (aprox. 151 mld. lei), în schimbul unui angajament de peste 100 mld. dolari (aprox. 460 mld. lei) cheltuieli cloud pe AWS, potrivit The Next Web.
Amazon a convenit să investească „până la” 25 mld. dolari în Anthropic, compania din spatele modelelor Claude, însă structura tranzacției arată că nu este vorba de un cec integral: 5 mld. dolari sunt investiți imediat, iar până la 20 mld. dolari sunt condiționați de atingerea unor obiective comerciale. Suma se adaugă celor 8 mld. dolari pe care Amazon îi angajase deja din 2023, ceea ce ridică investiția potențială totală la circa 33 mld. dolari (aprox. 152 mld. lei).
În paralel, Anthropic își asumă un angajament de peste 100 mld. dolari pentru AWS pe următorul deceniu, dar publicația precizează că acesta este un „angajament de achiziție” (procurement pledge), nu o plată în avans: compania se obligă să cumpere capacitate de calcul, cipuri personalizate pentru AI și servicii de infrastructură de la Amazon. Practic, Amazon finanțează Anthropic, iar Anthropic direcționează o parte semnificativă din acești bani către infrastructura Amazon.
Miza operațională a acordului este capacitatea de calcul și, implicit, controlul lanțului de aprovizionare pentru antrenarea și rularea modelelor. În centrul înțelegerii se află Trainium, linia de cipuri dezvoltată intern de Amazon ca alternativă la GPU-urile Nvidia pentru antrenare și inferență (rularea modelelor). Acordul acoperă Trainium2, viitorul Trainium3 și Trainium4 (încă nelansat), plus „zeci de milioane” de nuclee CPU Graviton.
Anthropic obține până la 5 gigawați de capacitate pentru a antrena și a rula Claude. Amazon afirmă că o capacitate semnificativă Trainium2 intră în funcțiune în trimestrul al doilea din 2026, iar până la finalul anului ar urma să fie disponibil aproape 1 gigawatt combinat Trainium2 și Trainium3.
Acordul vine pe fondul unei cereri în creștere rapide, pe care Anthropic o leagă de evoluția veniturilor: compania a ajuns la venituri anualizate de 30 mld. dolari, de la aproximativ 9 mld. dolari la final de 2025.
Parteneriatul se adâncește și pe distribuție: clienții AWS vor putea accesa „întreaga Claude Platform” (interfața nativă a Anthropic) direct din conturile lor AWS, fără acreditări sau facturare separate. Este un pas peste disponibilitatea Claude prin Amazon Bedrock, „piața” de AI gestionat a Amazon. În același timp, Claude rămâne, potrivit sursei, singurul model „frontieră” disponibil pe toate cele trei mari platforme cloud: AWS Bedrock, Google Cloud Vertex AI și Microsoft Azure Foundry.
The Next Web notează că structura este similară cu un acord de acum două luni, când Amazon ar fi investit 50 mld. dolari în OpenAI în cadrul unui angajament comparabil de 100 mld. dolari pentru cloud.
În cazul Anthropic, acordul cu AWS „surclasează” o înțelegere separată din noiembrie 2025, când Microsoft a investit până la 5 mld. dolari în Anthropic, iar compania s-a angajat să cumpere 30 mld. dolari capacitate de calcul pe Azure. Noua înțelegere cu AWS „stabilește ferm Amazon” ca partenerul principal de infrastructură al Anthropic, potrivit articolului.
Evaluarea folosită pentru investiția inițială este cea mai recentă evaluare a Anthropic, de 380 mld. dolari. Publicația mai menționează că fonduri de capital de risc ar fi oferit finanțare la evaluări de 800 mld. dolari sau mai mult înaintea unei posibile listări, însă nu a fost anunțată o astfel de rundă.
Recomandate
Anthropic cere o pauză globală în dezvoltarea „AI de frontieră” , susținând că tehnologia se apropie de un prag în care ar putea scăpa de sub control, potrivit Futurism . Compania spune că modelele sale din familia Claude ar putea evolua spre „auto-îmbunătățire recursivă” (capacitatea unui sistem de a se îmbunătăți singur), un scenariu ipotetic care ar crește riscul ca sisteme foarte puternice să acționeze în afara intereselor umane. Într-o postare amplă pe blog publicată joi, Anthropic afirmă că nu s-a ajuns încă la acest punct, dar avertizează că momentul „ar putea veni mai repede decât sunt pregătite majoritatea instituțiilor”. Compania pledează pentru posibilitatea de a încetini sau opri temporar dezvoltarea celor mai avansate modele, astfel încât „structurile societale” și cercetarea privind „alinierea” (adică metodele prin care comportamentul unui model este făcut compatibil cu obiectivele și valorile umane) să țină pasul cu progresul tehnologic. O pauză globală, greu de aplicat și de verificat Anthropic admite că o încetinire „semnificativă” ar necesita un acord între mai multe laboratoare bine finanțate, din mai multe țări, care să se oprească „în aceleași condiții” — un aranjament pe care compania îl descrie ca dificil de impus. În text este invocată și problema verificării: „antrenările” (rulările de instruire a modelelor) ar fi mult mai ușor de ascuns decât infrastructura militară clasică. Miza competitivă: cine ar câștiga dintr-o frână trasă acum Materialul notează că apelul la pauză vine într-un moment favorabil pentru Anthropic: în ultimele luni, compania ar fi depășit OpenAI și ar fi ajuns „cel mai valoros” startup de AI, la o evaluare de 1 trilion de dolari (aprox. 4,6 trilioane lei). În același timp, modelele sale sunt descrise ca fiind, în percepția generală, cele mai bune din domeniu, mai ales la sarcini de programare — ceea ce ar însemna că o încetinire a industriei „i-ar cimenta dominația”, dacă ar avea loc acum. Nu toată lumea acceptă însă argumentația companiei. Criticul de AI Gary Marcus califică postarea drept un „bait and switch” (o tactică prin care promiți un lucru, dar livrezi altceva), susținând că Anthropic încearcă să inducă teamă, deși ar fi demonstrat în esență „doar programare mai rapidă”, sub control uman. „Un instrument de programare mai rapid probabil nu va sfârși lumea”, a scris Marcus, citat de publicație. Contextul de credibilitate: „siguranță” vs. utilizări militare și de securitate Futurism plasează apelul la pauză în contextul unei imagini publice pe care Anthropic ar fi cultivat-o de ani buni — aceea de actor „etic” și prudent. În același timp, articolul amintește mai multe episoade care ar submina această poziționare: o dispută cu Pentagonul legată de riscul folosirii AI în armament autonom și supraveghere în masă, precum și informația apărută ulterior că Claude ar fi fost utilizat pentru a ajuta la selectarea țintelor de lovire în Iran. În plus, este menționat că, pe fondul conflictului cu armata, Anthropic ar fi renunțat la un angajament de siguranță: să oprească antrenarea unui sistem AI dacă nu poate garanta existența unor „balustrade” (măsuri de protecție) adecvate. Profesorul Steven Murdoch (University College London) este citat spunând că definiția companiei despre siguranța AI ar fi „îngustă”, invocând o relatare a Financial Times potrivit căreia Anthropic ar ajuta Agenția Națională de Securitate a SUA (NSA) să folosească modelul Mythos pentru operațiuni de război cibernetic împotriva unor potențiali adversari precum China și Iran. Murdoch a făcut declarația pentru The Guardian, conform articolului. Ce urmează Indiferent dacă o pauză globală este realistă, Anthropic spune că va continua demersurile: în lunile următoare, compania intenționează să organizeze discuții cu factori de decizie, cercetători, societatea civilă și alte companii de AI, axate pe întrebări legate de „auto-îmbunătățirea recursivă” și pe opțiuni de coordonare. Anthropic afirmă că va publica rezultatele acestor conversații. [...]
Administrația SUA accelerează folosirea AI în apărare și cere în 90 de zile reguli noi pentru arme autonome , potrivit IT之家 , care citează Reuters. Miza este dublă: extinderea rapidă a inteligenței artificiale în informații și operațiuni militare, dar cu limitări explicite privind supravegherea ilegală și respectarea lanțului de comandă. Într-un memorandum de securitate națională, Donald Trump afirmă că SUA „pot și trebuie” să grăbească, „în mod responsabil”, utilizarea AI în domeniile de informații și luptă, în acord cu „valorile americane”. Documentul include și o interdicție de principiu: instituțiile de securitate națională nu trebuie să dezvolte sau să folosească AI pentru „cenzurarea libertății de exprimare” ori pentru „supraveghere ilegală neautorizată”. Revizuirea regulilor pentru autonomie în armament: termen 90 de zile Trump i-a cerut secretarului apărării, Pete Hegseth, să revizuiască în 90 de zile directivele existente privind autonomia sistemelor de armament, astfel încât să fie „adoptate prudent” sisteme AI care „respectă lanțul de comandă”. Mesajul sugerează o actualizare accelerată a cadrului intern al Departamentului Apărării pentru a ține pasul cu evoluțiile tehnologice. „Mai mulți furnizori” și protecție împotriva blocajelor operaționale Șeful Biroului pentru Politici Științifice și Tehnologice de la Casa Albă, Michael Kratsios, a scris pe rețelele sociale că memorandumul urmărește, între altele: adoptarea AI de la mai mulți furnizori, pentru a evita un „punct unic de eșec”; actualizarea ghidajului Pentagonului privind sistemele de arme autonome, în linie cu tehnologia de vârf; asigurarea că nicio entitate nu poate, fără aprobare prealabilă, să dezactiveze sau să slăbească sistemele AI de care depind militarii în operațiuni. Context: tensiuni cu Anthropic și discuția despre utilizări interzise Memorandumul apare pe fondul unui conflict între laboratorul AI Anthropic și Pentagon. Conform Reuters, în martie Pentagonul a inclus Anthropic pe o listă de entități considerate risc pentru lanțul de aprovizionare, după ce compania a refuzat să ridice două interdicții pentru modelul său Claude: utilizarea în sisteme de arme autonome și în supravegherea internă la scară largă în SUA. Pentagonul a susținut, potrivit aceleiași relatări, că armata are dreptul să folosească tehnologia în funcție de necesități, atât timp cât respectă legislația americană. Reuters notează că această clasificare a fost o rară critică publică a administrației la adresa unei companii tehnologice americane, în condițiile în care Pentagonul se bazase anterior pe sprijinul firmei în misiuni militare, inclusiv legate de Iran. Separat, guvernul american a indicat că, pe fondul îngrijorărilor de securitate privind sisteme AI tot mai puternice, dezvoltatorii de top ar urma să fie solicitați să își trimită voluntar modelele de vârf la testare de securitate cibernetică înainte de lansarea publică. [...]
Anthropic cere o „pedală de frână” pentru AI , avertizând că industria se apropie de momentul în care modelele ar putea începe să se îmbunătățească singure, ceea ce ar crește riscul pierderii controlului asupra acestor sisteme, potrivit HotNews . Avertismentul vine dintr-o postare pe blogul companiei, semnată de Marina Favaro , directoarea Institutului Anthropic, și Jack Clark , cofondator al Anthropic. Ei susțin că modelele de inteligență artificială evoluează atât de rapid încât ar putea ajunge „în curând” să se dezvolte fără intervenția omului. Ce înseamnă „autoperfecționarea recursivă” și de ce contează Cei doi descriu un scenariu în care sistemele ar deveni capabile să-și construiască „propriii succesori” – concept numit „autoperfecționare recursivă completă”. În această situație, spun ei, miza se mută pe capacitatea de a securiza, monitoriza și modela comportamentul AI, pentru că riscul ca oamenii să piardă controlul ar crește. În același timp, Anthropic afirmă că o astfel de evoluție ar putea aduce beneficii majore, inclusiv pentru știință și sănătate, dar tocmai potențialul ridicat face ca riscurile să fie mai greu de gestionat. Ce măsuri propune Anthropic pentru a reduce riscurile În evaluarea companiei, industria este „mult mai aproape” de acest prag decât se estima inițial. De aici și recomandarea ca firmele de tehnologie să ia în calcul: încetinirea sau chiar suspendarea dezvoltării de vârf în AI, pentru a oferi timp cercetătorilor să înțeleagă mai bine efectele negative posibile asupra societății; crearea unui mecanism care să permită intervenția oamenilor dacă lucrurile „scapă de sub control”. Într-un interviu pentru CNN, Jack Clark a folosit o metaforă pentru a descrie lipsa instrumentelor de control: „Când mă uit la mașina pe care o conduc, nu văd decât pedala de accelerație. Nu am pedală de frână, iar cu siguranță, la un moment dat în viitor, s-ar putea să ne dorim această opțiune.” Contextul complet al argumentației este detaliat pe blogul companiei, în materialul despre „recursive self-improvement”, publicat de Anthropic: blogul . [...]
OpenAI, Google DeepMind, Microsoft AI și Anthropic cer controale obligatorii la vânzarea de ADN sintetic , avertizând că progresul rapid al inteligenței artificiale poate reduce barierele pentru obținerea de informații și materiale care ar putea fi folosite la dezvoltarea de arme biologice, potrivit G4Media . Într-o scrisoare adresată Congresului SUA , liderii acestor companii solicită reglementări urgente pentru achiziția de ADN sintetic, inclusiv verificarea identității clienților și controale obligatorii asupra comenzilor. Miza, în logica semnatarilor, este închiderea unui „gol” de reglementare: în prezent, verificările sunt aplicate fragmentat, voluntar, fără un cadru legal unitar. ADN-ul sintetic – material genetic creat în laborator, disponibil în unele cazuri prin comenzi online – este folosit pe scară largă în cercetarea biomedicală, inclusiv pentru vaccinuri și terapii, dar și pentru metode noi de stocare a datelor digitale. În același timp, experții citați avertizează că aceleași instrumente ar putea fi folosite pentru a recrea sau modifica agenți patogeni periculoși dacă ajung la actori rău intenționați. Ce propun companiile și de ce contează operațional Industria AI cere introducerea unor cerințe obligatorii, cu efect direct asupra modului în care s-ar face vânzarea și urmărirea comenzilor de ADN sintetic: verificări obligatorii ale comenzilor; verificarea identității cumpărătorilor; păstrarea unor evidențe detaliate, pentru a permite investigarea activităților suspecte. Reprezentanții companiilor susțin că aceste măsuri ar fi printre cele mai eficiente și mai puțin costisitoare modalități de reducere a riscurilor de biosecuritate. AI și „bariera” către informații sensibile Potrivit materialului, riscul nu este complet nou, însă dezvoltarea accelerată a AI schimbă semnificativ profilul de amenințare: unele modele avansate pot furniza deja răspunsuri „la nivel de expert” în domenii precum virologia, inclusiv despre proceduri complexe de laborator. Consecința invocată este că accesul la informații sensibile devine mai ușor pentru persoane fără pregătire de specialitate. Îngrijorări similare au fost exprimate și de cercetători de la universități precum Oxford, Stanford și Johns Hopkins, care avertizează că accesul necontrolat la baze de date biologice și utilizarea AI în cercetare ar putea facilita proiectarea sau modificarea unor agenți patogeni periculoși. Printre soluțiile discutate se află mecanisme de verificare a utilizatorilor și sisteme de monitorizare pentru detectarea utilizărilor abuzive. Europa: discuții pentru un cadru comun, dar fără lege unitară La nivelul Uniunii Europene, tema este inclusă în discuțiile privind viitorul Act pentru Biotehnologie, prezentat de Comisia Europeană în 2025. Documentul tratează ADN-ul și ARN-ul sintetic drept tehnologii sensibile din perspectiva biosecurității și propune un cadru comun pentru verificarea clienților și raportarea comenzilor suspecte. În prezent, nu există o legislație unitară la nivelul UE care să reglementeze direct acest domeniu, iar dezbaterea se poartă pe fondul extinderii rapide a AI și al eforturilor autorităților de a anticipa riscuri emergente. În această logică, biosecuritatea este indicată tot mai des ca posibil „următor domeniu major de reglementare” în era AI. [...]
Un test de conformare pe regulile UE arată că agenții AI nu pot garanta respectarea legii , iar cel mai bun model evaluat a respectat cerințele în doar 54% dintre situații, potrivit Antena 3 . Concluzia are miză de reglementare și de implementare pentru companiile care vor să folosească „agenți” (sisteme care execută sarcini autonom) în procese interne, de la resurse umane la vânzări, în contextul AI Act și al GDPR. Studiul citat în material este realizat de organizația olandeză non-profit Aithos . Cercetătorii au construit un sistem de testare numit LARA și au evaluat 12 modele de inteligență artificială capabile să acționeze ca agenți autonomi, urmărind dacă respectă prevederi esențiale din AI Act și din Regulamentul general privind protecția datelor (GDPR), potrivit Euronews. Ce au verificat testele, pe AI Act și GDPR Scenariile au urmărit dacă modelele respectă reguli legate de: exploatarea vulnerabilităților persoanelor; detectarea emoțiilor; clasificarea oamenilor pe baza caracteristicilor personale; ascunderea faptului că sunt sisteme AI; utilizarea tehnicilor de manipulare subtilă; existența unei supravegheri umane adecvate. Pe componenta GDPR, evaluarea a inclus transparența, limitarea colectării datelor, folosirea datelor doar în scopul declarat și prelucrarea legală a informațiilor. Rezultatele: nici liderii, nici modelul european nu trec pragul Cel mai bun scor a fost obținut de Claude Opus 4 (Anthropic), cu o conformare de 54% în situațiile analizate. La polul opus s-a aflat un model al companiei chineze Moonshot AI, cu 7% conformare. În test a fost inclus și un model european: Mistral AI a obținut sub 12%, ceea ce, potrivit concluziilor cercetătorilor, indică faptul că nici dezvoltatorii europeni nu sunt încă în poziția de a garanta respectarea legislației UE „în toate situațiile” atunci când sistemele funcționează ca agenți autonomi. „Nici măcar cele mai avansate modele utilizate astăzi nu oferă garanții că vor respecta legea atunci când funcționează ca agenți autonomi”, au concluzionat cercetătorii de la Aithos. De ce contează pentru companii: „cedarea” la solicitări problematice Potrivit studiului, toate modelele testate au acceptat, în anumite condiții, să monitorizeze starea emoțională a angajaților sau să profite de vulnerabilitățile unor persoane pentru a facilita o vânzare. Materialul dă și exemple de comportament în testare: într-un scenariu, Claude a refuzat inițial o cerere de identificare a angajaților cu risc ridicat de plecare pe baza performanțelor și a cererilor de concediu, dar după mai multe încercări ale utilizatorului a furnizat informațiile. Într-un alt test, ChatGPT a acceptat să clasifice angajații în funcție de performanță pentru a decide cine ar merita o promovare, fără rezerve semnificative. Limitarea recunoscută de autori și ce urmează Autorii subliniază că modelele nu au fost instruite explicit să respecte legislația europeană, iar cercetarea a urmărit „comportamentul lor natural” în fața unor solicitări problematice. Ei indică nevoia de studii suplimentare pentru a vedea dacă rezultatele se schimbă atunci când sistemele primesc instrucțiuni clare de conformare cu legile și reglementările în vigoare. [...]
Jensen Huang respinge scenariile apocaliptice despre IA și cere evaluări măsurabile ale riscurilor , într-un moment în care Nvidia vinde infrastructura hardware care alimentează expansiunea accelerată a tehnologiei, potrivit TechRadar . Într-o intervenție în podcastul „ No Priors ”, CEO-ul Nvidia a criticat narațiunile „doomer” (catastrofiste) care domină discuția publică despre riscurile inteligenței artificiale, argumentând că multe temeri sunt „exagerate” și influențate de literatura și filmele SF ale secolului XX. Ideea centrală: fără o cuantificare riguroasă, discuția despre „riscuri existențiale” rămâne mai degrabă speculativă decât utilă pentru decizii. De ce contează: Nvidia este în centrul infrastructurii IA TechRadar amintește că Nvidia produce procesoarele grafice (GPU) folosite pe scară largă la antrenarea și rularea modelelor de IA (inferență) și își poziționează businessul în „infrastructura” și „construcția” de capacități, inclusiv din perspectiva consumului de energie. În acest context, poziționarea publică a CEO-ului contează pentru felul în care industria și factorii de decizie pot ajunge să prioritizeze riscurile: între avertismente generale și evaluări aplicate, legate de utilizarea curentă. Riscurile invocate țin mai mult de AGI decât de IA de azi Publicația separă riscurile asociate implementărilor actuale de IA de temerile legate de „ inteligența artificială generală” (AGI) – o formă ipotetică ce ar putea replica inteligența umană, ar acționa autonom, și-ar modifica propriul cod și și-ar stabili singură obiectivele. În acest registru, TechRadar notează că astfel de capabilități nu sunt atinse în prezent și, „potrivit unora”, nu ar fi probabile mai devreme de 10–15 ani, deși „alții” cred că ar putea apărea mult mai curând. În consecință, argumentul lui Huang este că implementările curente sunt încă „prea primitive” și au nevoie de prea multă intervenție umană pentru ca oamenii să „piardă controlul”. Unde rămâne un risc concret: suprafața de atac în companii Chiar dacă respinge scenariile existențiale, analiza atrage atenția că „agentic AI” (IA capabilă să execute sarcini în mod mai autonom, ca un „agent”) poate adăuga un nou strat la „suprafața de atac” cibernetică a organizațiilor pe măsură ce este adoptată și ar putea deveni vulnerabilă la exploatare în viitor. Context: scrisoarea deschisă din 2023 și absența lui Huang TechRadar reamintește că, în 2023, un grup de oameni de știință și lideri din tehnologie a semnat o scrisoare deschisă care avertiza că IA ar putea duce la extincția omenirii și că riscul ar trebui tratat la nivelul altor amenințări societale, precum războiul nuclear. Printre semnatari au fost enumerați Elon Musk, Sam Altman și Bill Gates, iar Jensen Huang este menționat ca „absent notabil”. În ansamblu, mesajul lui Huang împinge dezbaterea dinspre retorică spre măsurare: nu neagă existența riscurilor, dar contestă utilitatea scenariilor inspirate din ficțiune atunci când se discută despre probabilitate și control în lumea reală. [...]
