Știri
Știri din categoria Inteligență artificială
Administrația Trump împinge marile bănci americane spre testarea AI-ului Anthropic, deși Pentagonul a încercat să blocheze compania, într-un episod care riscă să creeze incertitudine de reglementare și operațională pentru instituțiile financiare care adoptă rapid tehnologia, potrivit The Next Web.
Secretarul Trezoreriei, Scott Bessent, și președintele Rezervei Federale, Jerome Powell, au chemat în această săptămână executivi de la JPMorgan Chase, Goldman Sachs, Citigroup, Bank of America și Morgan Stanley și i-au îndemnat să folosească modelul „Mythos” al Anthropic pentru a identifica vulnerabilități de securitate cibernetică în propriile sisteme, conform Bloomberg, citat de publicație. Recomandarea vine în timp ce Departamentul Apărării se află în litigiu cu Anthropic, după ce a etichetat compania drept „risc pentru lanțul de aprovizionare”, ceea ce o exclude de la contracte militare.
Contradicția este una de politică publică cu efect direct asupra pieței: aceeași administrație care a încercat să scoată Anthropic din zona de apărare încurajează acum sistemul financiar să se bazeze pe tehnologia sa pentru securitate. În centrul disputei cu Pentagonul se află refuzul Anthropic de a elimina două restricții de siguranță din modelele sale: interdicția utilizării în arme complet autonome și interdicția folosirii pentru supravegherea în masă a cetățenilor americani.
Potrivit articolului, conflictul a escaladat în februarie, când secretarul Apărării Pete Hegseth i-ar fi dat CEO-ului Anthropic, Dario Amodei, un termen limită pentru a renunța la aceste restricții, în caz contrar compania riscând pierderea unui contract de apărare de 200 milioane de dolari (aprox. 920 milioane lei). Amodei a refuzat, iar ulterior a urmat desemnarea ca „risc pentru lanțul de aprovizionare” și un ordin al președintelui Trump ca agențiile federale să nu mai folosească tehnologia Anthropic.
În instanță, situația a rămas mixtă: un judecător federal din California a emis o ordonanță preliminară care blochează desemnarea, însă o curte de apel din Washington, D.C. a respins cererea Anthropic de a opri temporar „blacklisting”-ul pe durata procesului. Efectul practic descris de publicație: Anthropic este exclusă din contractele Departamentului Apărării, dar poate lucra în continuare cu alte agenții guvernamentale.
„Claude Mythos Preview” este prezentat ca un model de vârf („frontier model”), pe care Anthropic spune că nu l-a antrenat explicit pentru securitate cibernetică; capacitatea de a găsi vulnerabilități ar fi apărut ca efect al îmbunătățirilor generale în raționamentul pe cod și operare autonomă. În testare, modelul ar fi identificat „mii” de vulnerabilități „zero-day” (defecte necunoscute anterior dezvoltatorilor) în principalele sisteme de operare și browsere.
Anthropic nu a lansat public modelul, ci l-a inclus într-un program restricționat, „Project Glasswing”, care oferă acces către aproximativ 50 de organizații. Lista menționată include, între altele, Amazon Web Services, Apple, Google, Microsoft, Nvidia, Cisco, CrowdStrike, Palo Alto Networks și JPMorgan Chase. Ca parte a inițiativei, Anthropic ar fi angajat până la 100 milioane de dolari (aprox. 460 milioane lei) în credite de utilizare și 4 milioane de dolari (aprox. 18,4 milioane lei) în donații către organizații de securitate open-source.
Publicația notează însă și scepticismul din piață: Tom’s Hardware a pus sub semnul întrebării afirmațiile despre „mii” de descoperiri severe, arătând că acestea s-ar baza pe 198 de evaluări manuale și că multe vulnerabilități semnalate ar fi în software mai vechi sau greu de exploatat. În plus, o parte a comunității de securitate ar vedea lansarea restricționată și ca o tactică comercială de tip „scarcity” (crearea artificială a rarității) pentru clienți mari.
JPMorgan Chase este menționată ca partener oficial în Project Glasswing, iar Bloomberg (citat de articol) susține că Goldman Sachs, Citigroup, Bank of America și Morgan Stanley testează intern Mythos. Cazurile de utilizare raportate includ:
Pe partea de reglementare, reacția descrisă nu se limitează la SUA. Financial Times, citat de The Next Web, relatează că autorități din Marea Britanie – Bank of England, Financial Conduct Authority și HM Treasury – discută cu National Cyber Security Centre pentru a evalua riscurile și vulnerabilitățile evidențiate de Mythos, iar reprezentanți ai unor bănci, asigurători și burse ar urma să fie informați în următoarele două săptămâni.
În ansamblu, episodul arată cum adoptarea accelerată a AI-ului în infrastructura financiară poate avansa mai repede decât coerența deciziilor guvernamentale: pentru bănci, recomandarea venită simultan de la Trezorerie și Fed cântărește operațional, chiar dacă o altă ramură a administrației încearcă să limiteze aceeași companie.
Recomandate
Anthropic cere o „pedală de frână” pentru AI , avertizând că industria se apropie de momentul în care modelele ar putea începe să se îmbunătățească singure, ceea ce ar crește riscul pierderii controlului asupra acestor sisteme, potrivit HotNews . Avertismentul vine dintr-o postare pe blogul companiei, semnată de Marina Favaro , directoarea Institutului Anthropic, și Jack Clark , cofondator al Anthropic. Ei susțin că modelele de inteligență artificială evoluează atât de rapid încât ar putea ajunge „în curând” să se dezvolte fără intervenția omului. Ce înseamnă „autoperfecționarea recursivă” și de ce contează Cei doi descriu un scenariu în care sistemele ar deveni capabile să-și construiască „propriii succesori” – concept numit „autoperfecționare recursivă completă”. În această situație, spun ei, miza se mută pe capacitatea de a securiza, monitoriza și modela comportamentul AI, pentru că riscul ca oamenii să piardă controlul ar crește. În același timp, Anthropic afirmă că o astfel de evoluție ar putea aduce beneficii majore, inclusiv pentru știință și sănătate, dar tocmai potențialul ridicat face ca riscurile să fie mai greu de gestionat. Ce măsuri propune Anthropic pentru a reduce riscurile În evaluarea companiei, industria este „mult mai aproape” de acest prag decât se estima inițial. De aici și recomandarea ca firmele de tehnologie să ia în calcul: încetinirea sau chiar suspendarea dezvoltării de vârf în AI, pentru a oferi timp cercetătorilor să înțeleagă mai bine efectele negative posibile asupra societății; crearea unui mecanism care să permită intervenția oamenilor dacă lucrurile „scapă de sub control”. Într-un interviu pentru CNN, Jack Clark a folosit o metaforă pentru a descrie lipsa instrumentelor de control: „Când mă uit la mașina pe care o conduc, nu văd decât pedala de accelerație. Nu am pedală de frână, iar cu siguranță, la un moment dat în viitor, s-ar putea să ne dorim această opțiune.” Contextul complet al argumentației este detaliat pe blogul companiei, în materialul despre „recursive self-improvement”, publicat de Anthropic: blogul . [...]
Anthropic cere o pauză globală în dezvoltarea „AI de frontieră” , susținând că tehnologia se apropie de un prag în care ar putea scăpa de sub control, potrivit Futurism . Compania spune că modelele sale din familia Claude ar putea evolua spre „auto-îmbunătățire recursivă” (capacitatea unui sistem de a se îmbunătăți singur), un scenariu ipotetic care ar crește riscul ca sisteme foarte puternice să acționeze în afara intereselor umane. Într-o postare amplă pe blog publicată joi, Anthropic afirmă că nu s-a ajuns încă la acest punct, dar avertizează că momentul „ar putea veni mai repede decât sunt pregătite majoritatea instituțiilor”. Compania pledează pentru posibilitatea de a încetini sau opri temporar dezvoltarea celor mai avansate modele, astfel încât „structurile societale” și cercetarea privind „alinierea” (adică metodele prin care comportamentul unui model este făcut compatibil cu obiectivele și valorile umane) să țină pasul cu progresul tehnologic. O pauză globală, greu de aplicat și de verificat Anthropic admite că o încetinire „semnificativă” ar necesita un acord între mai multe laboratoare bine finanțate, din mai multe țări, care să se oprească „în aceleași condiții” — un aranjament pe care compania îl descrie ca dificil de impus. În text este invocată și problema verificării: „antrenările” (rulările de instruire a modelelor) ar fi mult mai ușor de ascuns decât infrastructura militară clasică. Miza competitivă: cine ar câștiga dintr-o frână trasă acum Materialul notează că apelul la pauză vine într-un moment favorabil pentru Anthropic: în ultimele luni, compania ar fi depășit OpenAI și ar fi ajuns „cel mai valoros” startup de AI, la o evaluare de 1 trilion de dolari (aprox. 4,6 trilioane lei). În același timp, modelele sale sunt descrise ca fiind, în percepția generală, cele mai bune din domeniu, mai ales la sarcini de programare — ceea ce ar însemna că o încetinire a industriei „i-ar cimenta dominația”, dacă ar avea loc acum. Nu toată lumea acceptă însă argumentația companiei. Criticul de AI Gary Marcus califică postarea drept un „bait and switch” (o tactică prin care promiți un lucru, dar livrezi altceva), susținând că Anthropic încearcă să inducă teamă, deși ar fi demonstrat în esență „doar programare mai rapidă”, sub control uman. „Un instrument de programare mai rapid probabil nu va sfârși lumea”, a scris Marcus, citat de publicație. Contextul de credibilitate: „siguranță” vs. utilizări militare și de securitate Futurism plasează apelul la pauză în contextul unei imagini publice pe care Anthropic ar fi cultivat-o de ani buni — aceea de actor „etic” și prudent. În același timp, articolul amintește mai multe episoade care ar submina această poziționare: o dispută cu Pentagonul legată de riscul folosirii AI în armament autonom și supraveghere în masă, precum și informația apărută ulterior că Claude ar fi fost utilizat pentru a ajuta la selectarea țintelor de lovire în Iran. În plus, este menționat că, pe fondul conflictului cu armata, Anthropic ar fi renunțat la un angajament de siguranță: să oprească antrenarea unui sistem AI dacă nu poate garanta existența unor „balustrade” (măsuri de protecție) adecvate. Profesorul Steven Murdoch (University College London) este citat spunând că definiția companiei despre siguranța AI ar fi „îngustă”, invocând o relatare a Financial Times potrivit căreia Anthropic ar ajuta Agenția Națională de Securitate a SUA (NSA) să folosească modelul Mythos pentru operațiuni de război cibernetic împotriva unor potențiali adversari precum China și Iran. Murdoch a făcut declarația pentru The Guardian, conform articolului. Ce urmează Indiferent dacă o pauză globală este realistă, Anthropic spune că va continua demersurile: în lunile următoare, compania intenționează să organizeze discuții cu factori de decizie, cercetători, societatea civilă și alte companii de AI, axate pe întrebări legate de „auto-îmbunătățirea recursivă” și pe opțiuni de coordonare. Anthropic afirmă că va publica rezultatele acestor conversații. [...]
OpenAI, Google DeepMind, Microsoft AI și Anthropic cer controale obligatorii la vânzarea de ADN sintetic , avertizând că progresul rapid al inteligenței artificiale poate reduce barierele pentru obținerea de informații și materiale care ar putea fi folosite la dezvoltarea de arme biologice, potrivit G4Media . Într-o scrisoare adresată Congresului SUA , liderii acestor companii solicită reglementări urgente pentru achiziția de ADN sintetic, inclusiv verificarea identității clienților și controale obligatorii asupra comenzilor. Miza, în logica semnatarilor, este închiderea unui „gol” de reglementare: în prezent, verificările sunt aplicate fragmentat, voluntar, fără un cadru legal unitar. ADN-ul sintetic – material genetic creat în laborator, disponibil în unele cazuri prin comenzi online – este folosit pe scară largă în cercetarea biomedicală, inclusiv pentru vaccinuri și terapii, dar și pentru metode noi de stocare a datelor digitale. În același timp, experții citați avertizează că aceleași instrumente ar putea fi folosite pentru a recrea sau modifica agenți patogeni periculoși dacă ajung la actori rău intenționați. Ce propun companiile și de ce contează operațional Industria AI cere introducerea unor cerințe obligatorii, cu efect direct asupra modului în care s-ar face vânzarea și urmărirea comenzilor de ADN sintetic: verificări obligatorii ale comenzilor; verificarea identității cumpărătorilor; păstrarea unor evidențe detaliate, pentru a permite investigarea activităților suspecte. Reprezentanții companiilor susțin că aceste măsuri ar fi printre cele mai eficiente și mai puțin costisitoare modalități de reducere a riscurilor de biosecuritate. AI și „bariera” către informații sensibile Potrivit materialului, riscul nu este complet nou, însă dezvoltarea accelerată a AI schimbă semnificativ profilul de amenințare: unele modele avansate pot furniza deja răspunsuri „la nivel de expert” în domenii precum virologia, inclusiv despre proceduri complexe de laborator. Consecința invocată este că accesul la informații sensibile devine mai ușor pentru persoane fără pregătire de specialitate. Îngrijorări similare au fost exprimate și de cercetători de la universități precum Oxford, Stanford și Johns Hopkins, care avertizează că accesul necontrolat la baze de date biologice și utilizarea AI în cercetare ar putea facilita proiectarea sau modificarea unor agenți patogeni periculoși. Printre soluțiile discutate se află mecanisme de verificare a utilizatorilor și sisteme de monitorizare pentru detectarea utilizărilor abuzive. Europa: discuții pentru un cadru comun, dar fără lege unitară La nivelul Uniunii Europene, tema este inclusă în discuțiile privind viitorul Act pentru Biotehnologie, prezentat de Comisia Europeană în 2025. Documentul tratează ADN-ul și ARN-ul sintetic drept tehnologii sensibile din perspectiva biosecurității și propune un cadru comun pentru verificarea clienților și raportarea comenzilor suspecte. În prezent, nu există o legislație unitară la nivelul UE care să reglementeze direct acest domeniu, iar dezbaterea se poartă pe fondul extinderii rapide a AI și al eforturilor autorităților de a anticipa riscuri emergente. În această logică, biosecuritatea este indicată tot mai des ca posibil „următor domeniu major de reglementare” în era AI. [...]
Sam Altman cere Congresului SUA să evite aprobarea guvernamentală înaintea lansării noilor modele AI , o poziție care ar putea influența direct ritmul de inovare și costurile de conformare pentru întreaga industrie, în condițiile în care OpenAI se pregătește „în secret” de listarea la bursă, potrivit HotNews , care citează Reuters. Miza este una de reglementare: Altman se va opune propunerilor care ar obliga dezvoltatorii să obțină aprobarea guvernului american înainte de a lansa către public noi modele de inteligență artificială. OpenAI a transmis, într-un comunicat, că demersul face parte dintr-un efort de a influența modul în care va fi reglementată tehnologia. Ce alternativă propune OpenAI: mai multă testare, nu „aprobare înainte de lansare” În vizita sa la Washington, Altman urmează să le ceară parlamentarilor să crească finanțarea pentru testarea inteligenței artificiale în cadrul Departamentului Comerțului al SUA. Instituția colaborează deja cu companii precum OpenAI și Anthropic pentru testarea modelelor, iar OpenAI vrea extinderea inițiativei. Compania susține că programul ar trebui să includă și cercetători cu expertiză în domenii precum securitatea cibernetică, armele biologice și securitatea națională, între altele. De ce contează acum: presiune pe profitabilitate și pe calendarul lansărilor Potrivit Reuters, vizita lui Altman are loc într-un moment „critic” pentru OpenAI și pentru industrie. Publicația notează că OpenAI se pregătește să depună confidențial o cerere de listare la bursă, în timp ce rivalul Anthropic (dezvoltatorul modelului Claude) a depus deja o solicitare similară. În acest context, cerințele guvernului american ar putea afecta profiturile dacă încetinesc lansarea noilor modele. În plus, companiile ar putea fi obligate să își modifice produsele pentru a răspunde cerințelor de securitate. Întâlniri la Congres și reacția Casei Albe Altman avea programate miercuri întâlniri cu membri ai Congresului, inclusiv cu președintele Camerei Reprezentanților, Mike Johnson. Administrația de la Casa Albă nu a răspuns solicitărilor de a comenta eventuale întrevederi, potrivit aceleiași surse. Sursa secundară: Reuters . [...]
Anthropic își pregătește IPO-ul cu Morgan Stanley și Goldman Sachs, dar miza reală este factura de infrastructură dezvăluită indirect: un acord de calcul cu SpaceX de 1,25 miliarde de dolari pe lună (aprox. 5,8 miliarde lei), potrivit The Next Web . Alegerea băncilor și calendarul vizat (octombrie) conturează o listare care ar putea deveni una dintre cele mai mari din tehnologie, însă costurile recurente pentru capacitate de calcul ridică întrebări despre marje și riscuri operaționale înainte de intrarea pe bursă. Anthropic a selectat Morgan Stanley și Goldman Sachs pentru a conduce oferta publică inițială (IPO), cu JPMorgan Chase implicată în tranzacție, după ce compania a depus confidențial documentele pentru listare. Conform informațiilor citate de publicație dintr-un material Bloomberg , echipa de bănci ar putea fi extinsă, iar parametrii ofertei se pot modifica. Contractul SpaceX: 325.000 de cipuri Nvidia și 1,25 miliarde dolari pe lună Detaliul cu cel mai mare impact economic nu vine din comunicările Anthropic, ci din documentația de listare a SpaceX (S-1), care arată că SpaceX furnizează către Anthropic capacitate de calcul pentru inteligență artificială, inclusiv aproximativ 325.000 de cipuri Nvidia, la un cost de 1,25 miliarde de dolari pe lună (aprox. 5,8 miliarde lei). Acordul se întinde până în mai 2029 și poate fi reziliat de oricare dintre părți cu un preaviz de 90 de zile, după o perioadă inițială de trei luni. Publicația notează că această relație face din SpaceX simultan furnizor pentru Anthropic, competitor (prin chatbotul Grok) și, în același timp, candidat la propria listare. La nivel anualizat, contractul ar echivala cu 15 miliarde de dolari (aprox. 69 miliarde lei) doar pentru calcul, ceea ce pune în perspectivă dimensiunea dependenței de infrastructură și presiunea pe profitabilitate. Ce poate deveni „material” în prospectul de listare The Next Web subliniază că, odată ce documentul S-1 al Anthropic va fi public, compania ar trebui să prezinte acest acord ca o relație relevantă pentru investitori, în contextul suprapunerii competitive dintre părți. În practică, astfel de aranjamente sunt urmărite atent pentru riscuri de continuitate a serviciului, putere de negociere și potențiale conflicte de interese. În paralel, Anthropic intră într-o „aglomerare” de listări mari în tehnologie, cu SpaceX și OpenAI menționate ca alte nume care se pregătesc pentru piața publică, ceea ce poate intensifica competiția pentru capital și poate influența evaluările. Context: creștere accelerată, dar și un risc de reglementare Pe lângă componenta de infrastructură, un alt element de risc menționat este desemnarea de către Pentagon a Anthropic ca risc pe lanțul de aprovizionare , după ce compania ar fi refuzat acces nerestricționat la modele pentru zona militară; Anthropic a spus că situația ar putea pune în pericol miliarde de dolari în venituri. Modul în care acest risc va fi descris și cuantificat în documentația de listare este prezentat ca un punct sensibil pentru investitorii de pe piețele publice. În acest cadru, IPO-ul Anthropic devine mai mult decât o simplă alegere de bănci: este un test despre cât de mult sunt dispuși investitorii să plătească pentru creștere în AI atunci când costul de bază — calculul — poate ajunge la niveluri de ordinul zecilor de miliarde de dolari anual. [...]
Gemini Desktop 0.12 aduce Google Gemini ca aplicație nativă în Windows, cu file pentru conversații și notificări la finalizarea răspunsurilor , potrivit WinFuture — o schimbare care mută utilizarea chatbotului din browser într-un flux de lucru mai „operațional”, cu comenzi rapide și ferestre dedicate. Aplicația (neoficială) funcționează pe Windows 10 (32-bit și 64-bit) și Windows 11. WinFuture notează că pe GitHub este disponibil codul-sursă, iar de acolo pot fi descărcate și versiuni pentru Windows 11 ARM64, macOS și Linux. După prima pornire, utilizatorii trebuie să se autentifice cu un cont Google pentru a folosi software-ul. Ce se schimbă în utilizarea de zi cu zi Gemini Desktop oferă acces direct la funcțiile Google Gemini — inclusiv chat și generare de imagini — într-o fereastră separată, fără browser. Accentul este pe productivitate: aplicația poate păstra mai multe conversații deschise simultan, afișate ca file (tabs), cu comutare rapidă între ele. Un alt element practic menționat este notificarea de tip pop-up atunci când Gemini a terminat de generat un răspuns, utilă mai ales când răspunsurile durează mai mult. Hotkey-uri, „spotlight chat” și opțiuni de control O parte dintre funcții pot fi controlate prin combinații de taste la nivel de sistem. Printre exemplele din descriere: deschiderea unei ferestre de introducere „plutitoare” (un fel de prompt rapid) pentru a trimite întrebări fără a părăsi aplicația curentă; menținerea ferestrei în prim-plan; pornirea chatului vocal; salvarea conversației curente în format PDF. În setări, utilizatorii pot comuta între interfață deschisă și închisă la culoare și pot adăuga aplicația la pornirea automată a Windows. Securitate și confidențialitate: ce susține dezvoltatorul Dezvoltatorul afirmă că aplicația nu colectează date despre utilizatori și nici telemetrie (date de diagnostic/urmărire a utilizării) și că ar realiza doar conexiuni către domeniile Google. Autentificarea ar avea loc direct prin Google, conform descrierii. Alternative: alți clienți pentru chatboturi WinFuture indică existența unor clienți (oficiali sau neoficiali) și pentru alte sisteme populare, precum ChatGPT , Perplexity sau Claude, precum și opțiunea de a folosi o aplicație care reunește mai multe servicii într-o singură interfață (Chatbox). [...]
