Știri
Știri din categoria Inteligență artificială
Sam Altman acuză că Anthropic folosește „marketing bazat pe frică” pentru a justifica accesul restrâns la modelul său de securitate cibernetică Mythos, într-un nou episod al rivalității dintre cele două laboratoare, potrivit TechCrunch.
Anthropic a anunțat Mythos la începutul lunii și l-a pus la dispoziția unui grup restrâns de clienți din zona enterprise. Compania susține că modelul ar fi „prea puternic” pentru a fi lansat public, invocând riscul ca infractorii cibernetici să îl transforme într-o armă. Critici ai acestei poziționări au spus că retorica este exagerată.
Într-o apariție la podcastul „Core Memory”, Altman a sugerat că această abordare ar fi o modalitate de a păstra inteligența artificială în mâinile unui cerc mic și exclusiv.
„Există oameni în lume care, pentru mult timp, au vrut să păstreze IA în mâinile unui grup mai mic de oameni. Poți justifica asta în multe feluri diferite.”
Altman a mers mai departe cu o comparație menită să ilustreze mecanismul comercial din spatele mesajului, descriindu-l drept „marketing incredibil” să pretinzi că ai construit „o bombă” și apoi să vinzi „un adăpost anti-bombă” extrem de scump.
Miza nu este doar schimbul de replici dintre competitori, ci modul în care „siguranța” și riscul de abuz sunt folosite pentru a stabili cine primește acces la modele avansate și în ce condiții. În cazul Mythos, justificarea pentru distribuția limitată este tocmai potențiala utilizare malițioasă, iar Altman atacă direct această logică, sugerând că poate funcționa și ca instrument de poziționare și vânzare către clienți mari.
TechCrunch notează că „marketingul bazat pe frică” nu este o invenție a Anthropic și că o parte semnificativă a industriei a folosit, în timp, tactici de alarmare și hiperbolă pentru a-și prezenta produsele ca fiind foarte puternice. Publicația amintește, totodată, că retorica despre riscuri extreme ale IA nu a venit doar de la activiști, ci și de la cei care vând această tehnologie publicului — inclusiv Altman.
Recomandate
Sam Altman cere Congresului SUA să evite aprobarea guvernamentală înaintea lansării noilor modele AI , o poziție care ar putea influența direct ritmul de inovare și costurile de conformare pentru întreaga industrie, în condițiile în care OpenAI se pregătește „în secret” de listarea la bursă, potrivit HotNews , care citează Reuters. Miza este una de reglementare: Altman se va opune propunerilor care ar obliga dezvoltatorii să obțină aprobarea guvernului american înainte de a lansa către public noi modele de inteligență artificială. OpenAI a transmis, într-un comunicat, că demersul face parte dintr-un efort de a influența modul în care va fi reglementată tehnologia. Ce alternativă propune OpenAI: mai multă testare, nu „aprobare înainte de lansare” În vizita sa la Washington, Altman urmează să le ceară parlamentarilor să crească finanțarea pentru testarea inteligenței artificiale în cadrul Departamentului Comerțului al SUA. Instituția colaborează deja cu companii precum OpenAI și Anthropic pentru testarea modelelor, iar OpenAI vrea extinderea inițiativei. Compania susține că programul ar trebui să includă și cercetători cu expertiză în domenii precum securitatea cibernetică, armele biologice și securitatea națională, între altele. De ce contează acum: presiune pe profitabilitate și pe calendarul lansărilor Potrivit Reuters, vizita lui Altman are loc într-un moment „critic” pentru OpenAI și pentru industrie. Publicația notează că OpenAI se pregătește să depună confidențial o cerere de listare la bursă, în timp ce rivalul Anthropic (dezvoltatorul modelului Claude) a depus deja o solicitare similară. În acest context, cerințele guvernului american ar putea afecta profiturile dacă încetinesc lansarea noilor modele. În plus, companiile ar putea fi obligate să își modifice produsele pentru a răspunde cerințelor de securitate. Întâlniri la Congres și reacția Casei Albe Altman avea programate miercuri întâlniri cu membri ai Congresului, inclusiv cu președintele Camerei Reprezentanților, Mike Johnson. Administrația de la Casa Albă nu a răspuns solicitărilor de a comenta eventuale întrevederi, potrivit aceleiași surse. Sursa secundară: Reuters . [...]
Propunerea lui Donald Trump de a oferi americanilor o participație la companiile de inteligență artificială riscă să complice chiar reglementarea sectorului , pentru că ar pune statul în postura de „arbitru” și, simultan, beneficiar al creșterii valorii firmelor pe care ar trebui să le supravegheze, potrivit The Next Web . Președintele SUA a spus că ar urma să se întâlnească „săptămâna viitoare” la Casa Albă cu companii de AI pentru a discuta un „parteneriat” federal care ar permite publicului american să profite de succesul industriei. Trump a invocat „concepte” prin care „părți” ar putea fi oferite publicului, inclusiv ideea de a direcționa dividende către americani, menționată și de Bloomberg . Două modele: donație voluntară vs. „preluare” prin taxare în acțiuni Ideea a fost avansată inițial de CEO-ul OpenAI , Sam Altman, care a propus încă din 2025 o variantă voluntară: un „Public Wealth Fund” (fond public de avere) în care companiile ar putea dona acțiuni către guvern pentru a crea o participație pentru fiecare cetățean. În această logică, compania se poziționează ca partener, nu ca țintă. În paralel, senatorul Bernie Sanders a împins discuția într-o zonă mult mai dură, prin planul pentru AI Sovereign Wealth Fund Act , descris în op-ed-ul publicat pe site-ul său : o taxă unică de 50% pe acțiunile celor mai mari companii de AI, plătită în acțiuni, nu în numerar. Statul ar administra fondul, ar folosi acțiunile cu drept de vot pentru a obține reprezentare în consiliile de administrație și ar bloca decizii considerate dăunătoare. Țintele menționate includ OpenAI, Anthropic și xAI, iar publicația notează că legislația este considerată puțin probabil să treacă, dar a mutat „granițele” a ceea ce Washingtonul e dispus să discute. Trump pare să se poziționeze între cele două: susține public conceptul, fără să explice mecanismul. Riscul major: statul acționar poate slăbi supravegherea Cea mai directă critică vizează conflictul de interese. Nat Purser, de la grupul de advocacy Public Knowledge, a avertizat (în declarații preluate de CNBC ) că un aranjament în care guvernul deține acțiuni ar putea reduce apetitul autorităților de a impune sau aplica reguli de siguranță, dacă acestea ar diminua valoarea deținerilor statului. Contextul imediat amplifică această problemă: cu trei zile înainte de comentariile despre „împărțirea profiturilor”, Trump a semnat un ordin executiv prin care companiile sunt invitate să trimită „voluntar” modelele de frontieră (cele mai avansate) la testare guvernamentală cu până la 30 de zile înainte de lansarea publică, potrivit The Next Web . Dacă statul ar deveni acționar, stimulentul de a păstra testarea „voluntară”, nu obligatorie, ar putea crește. Deocamdată, Anthropic a spus că nu este implicată în discuții cu administrația privind acordarea de acțiuni către guvern, conform The Next Web . Nicio altă companie nu a confirmat public participarea. Obstacolul practic: nu există un mecanism unic, iar structurile diferă Dincolo de politică, problema centrală rămâne una „mecanică”: cum ar transfera o companie privată de AI acțiuni către guvernul federal. Publicația subliniază că firmele vizate au structuri corporative, baze de investitori și obligații fiduciare diferite, ceea ce face improbabil un mecanism „universal”. În cazul OpenAI, The Next Web notează că firma este evaluată de investitori privați la peste 850 miliarde de dolari (aprox. 3.910 miliarde lei), se restructurează din non-profit în entitate cu scop lucrativ și se pregătește pentru o listare (IPO) posibil chiar în acest an. În același timp, Anthropic a depus confidențial documentația pentru IPO, conform The Next Web . Pentru varianta Sanders, folosirea codului fiscal ar ridica, în plus, întrebări constituționale, în condițiile unei „sechestrări” de 50% în acțiuni. Varianta Altman evită acest tip de risc, dar depinde integral de participarea voluntară a companiilor, ceea ce ar face fondul „atât de mare sau de mic pe cât decide industria”. Ce urmează Trump a indicat că întâlnirea cu companiile de AI va avea loc „săptămâna viitoare”, însă nu există o agendă publică, nu sunt confirmate companii participante și nu există un cadru legal conturat. În fundal, The Next Web plasează discuția într-un peisaj de politici fragmentate la Washington, descris și în analiza sa despre disputa internă privind cine reglementează AI, disponibilă aici . În lipsa detaliilor, rămâne deschis dacă inițiativa va produce un mecanism real de distribuire a câștigurilor (de tip dividende) către populație sau va rămâne o dezbatere politică fără implementare, mai ales în condițiile în care chiar arhitectura propusă poate intra în conflict cu obiectivul de reglementare a siguranței în AI. [...]
Anthropic cere o „pedală de frână” pentru AI , avertizând că industria se apropie de momentul în care modelele ar putea începe să se îmbunătățească singure, ceea ce ar crește riscul pierderii controlului asupra acestor sisteme, potrivit HotNews . Avertismentul vine dintr-o postare pe blogul companiei, semnată de Marina Favaro , directoarea Institutului Anthropic, și Jack Clark , cofondator al Anthropic. Ei susțin că modelele de inteligență artificială evoluează atât de rapid încât ar putea ajunge „în curând” să se dezvolte fără intervenția omului. Ce înseamnă „autoperfecționarea recursivă” și de ce contează Cei doi descriu un scenariu în care sistemele ar deveni capabile să-și construiască „propriii succesori” – concept numit „autoperfecționare recursivă completă”. În această situație, spun ei, miza se mută pe capacitatea de a securiza, monitoriza și modela comportamentul AI, pentru că riscul ca oamenii să piardă controlul ar crește. În același timp, Anthropic afirmă că o astfel de evoluție ar putea aduce beneficii majore, inclusiv pentru știință și sănătate, dar tocmai potențialul ridicat face ca riscurile să fie mai greu de gestionat. Ce măsuri propune Anthropic pentru a reduce riscurile În evaluarea companiei, industria este „mult mai aproape” de acest prag decât se estima inițial. De aici și recomandarea ca firmele de tehnologie să ia în calcul: încetinirea sau chiar suspendarea dezvoltării de vârf în AI, pentru a oferi timp cercetătorilor să înțeleagă mai bine efectele negative posibile asupra societății; crearea unui mecanism care să permită intervenția oamenilor dacă lucrurile „scapă de sub control”. Într-un interviu pentru CNN, Jack Clark a folosit o metaforă pentru a descrie lipsa instrumentelor de control: „Când mă uit la mașina pe care o conduc, nu văd decât pedala de accelerație. Nu am pedală de frână, iar cu siguranță, la un moment dat în viitor, s-ar putea să ne dorim această opțiune.” Contextul complet al argumentației este detaliat pe blogul companiei, în materialul despre „recursive self-improvement”, publicat de Anthropic: blogul . [...]
Anthropic cere o pauză globală în dezvoltarea „AI de frontieră” , susținând că tehnologia se apropie de un prag în care ar putea scăpa de sub control, potrivit Futurism . Compania spune că modelele sale din familia Claude ar putea evolua spre „auto-îmbunătățire recursivă” (capacitatea unui sistem de a se îmbunătăți singur), un scenariu ipotetic care ar crește riscul ca sisteme foarte puternice să acționeze în afara intereselor umane. Într-o postare amplă pe blog publicată joi, Anthropic afirmă că nu s-a ajuns încă la acest punct, dar avertizează că momentul „ar putea veni mai repede decât sunt pregătite majoritatea instituțiilor”. Compania pledează pentru posibilitatea de a încetini sau opri temporar dezvoltarea celor mai avansate modele, astfel încât „structurile societale” și cercetarea privind „alinierea” (adică metodele prin care comportamentul unui model este făcut compatibil cu obiectivele și valorile umane) să țină pasul cu progresul tehnologic. O pauză globală, greu de aplicat și de verificat Anthropic admite că o încetinire „semnificativă” ar necesita un acord între mai multe laboratoare bine finanțate, din mai multe țări, care să se oprească „în aceleași condiții” — un aranjament pe care compania îl descrie ca dificil de impus. În text este invocată și problema verificării: „antrenările” (rulările de instruire a modelelor) ar fi mult mai ușor de ascuns decât infrastructura militară clasică. Miza competitivă: cine ar câștiga dintr-o frână trasă acum Materialul notează că apelul la pauză vine într-un moment favorabil pentru Anthropic: în ultimele luni, compania ar fi depășit OpenAI și ar fi ajuns „cel mai valoros” startup de AI, la o evaluare de 1 trilion de dolari (aprox. 4,6 trilioane lei). În același timp, modelele sale sunt descrise ca fiind, în percepția generală, cele mai bune din domeniu, mai ales la sarcini de programare — ceea ce ar însemna că o încetinire a industriei „i-ar cimenta dominația”, dacă ar avea loc acum. Nu toată lumea acceptă însă argumentația companiei. Criticul de AI Gary Marcus califică postarea drept un „bait and switch” (o tactică prin care promiți un lucru, dar livrezi altceva), susținând că Anthropic încearcă să inducă teamă, deși ar fi demonstrat în esență „doar programare mai rapidă”, sub control uman. „Un instrument de programare mai rapid probabil nu va sfârși lumea”, a scris Marcus, citat de publicație. Contextul de credibilitate: „siguranță” vs. utilizări militare și de securitate Futurism plasează apelul la pauză în contextul unei imagini publice pe care Anthropic ar fi cultivat-o de ani buni — aceea de actor „etic” și prudent. În același timp, articolul amintește mai multe episoade care ar submina această poziționare: o dispută cu Pentagonul legată de riscul folosirii AI în armament autonom și supraveghere în masă, precum și informația apărută ulterior că Claude ar fi fost utilizat pentru a ajuta la selectarea țintelor de lovire în Iran. În plus, este menționat că, pe fondul conflictului cu armata, Anthropic ar fi renunțat la un angajament de siguranță: să oprească antrenarea unui sistem AI dacă nu poate garanta existența unor „balustrade” (măsuri de protecție) adecvate. Profesorul Steven Murdoch (University College London) este citat spunând că definiția companiei despre siguranța AI ar fi „îngustă”, invocând o relatare a Financial Times potrivit căreia Anthropic ar ajuta Agenția Națională de Securitate a SUA (NSA) să folosească modelul Mythos pentru operațiuni de război cibernetic împotriva unor potențiali adversari precum China și Iran. Murdoch a făcut declarația pentru The Guardian, conform articolului. Ce urmează Indiferent dacă o pauză globală este realistă, Anthropic spune că va continua demersurile: în lunile următoare, compania intenționează să organizeze discuții cu factori de decizie, cercetători, societatea civilă și alte companii de AI, axate pe întrebări legate de „auto-îmbunătățirea recursivă” și pe opțiuni de coordonare. Anthropic afirmă că va publica rezultatele acestor conversații. [...]
OpenAI, Google DeepMind, Microsoft AI și Anthropic cer controale obligatorii la vânzarea de ADN sintetic , avertizând că progresul rapid al inteligenței artificiale poate reduce barierele pentru obținerea de informații și materiale care ar putea fi folosite la dezvoltarea de arme biologice, potrivit G4Media . Într-o scrisoare adresată Congresului SUA , liderii acestor companii solicită reglementări urgente pentru achiziția de ADN sintetic, inclusiv verificarea identității clienților și controale obligatorii asupra comenzilor. Miza, în logica semnatarilor, este închiderea unui „gol” de reglementare: în prezent, verificările sunt aplicate fragmentat, voluntar, fără un cadru legal unitar. ADN-ul sintetic – material genetic creat în laborator, disponibil în unele cazuri prin comenzi online – este folosit pe scară largă în cercetarea biomedicală, inclusiv pentru vaccinuri și terapii, dar și pentru metode noi de stocare a datelor digitale. În același timp, experții citați avertizează că aceleași instrumente ar putea fi folosite pentru a recrea sau modifica agenți patogeni periculoși dacă ajung la actori rău intenționați. Ce propun companiile și de ce contează operațional Industria AI cere introducerea unor cerințe obligatorii, cu efect direct asupra modului în care s-ar face vânzarea și urmărirea comenzilor de ADN sintetic: verificări obligatorii ale comenzilor; verificarea identității cumpărătorilor; păstrarea unor evidențe detaliate, pentru a permite investigarea activităților suspecte. Reprezentanții companiilor susțin că aceste măsuri ar fi printre cele mai eficiente și mai puțin costisitoare modalități de reducere a riscurilor de biosecuritate. AI și „bariera” către informații sensibile Potrivit materialului, riscul nu este complet nou, însă dezvoltarea accelerată a AI schimbă semnificativ profilul de amenințare: unele modele avansate pot furniza deja răspunsuri „la nivel de expert” în domenii precum virologia, inclusiv despre proceduri complexe de laborator. Consecința invocată este că accesul la informații sensibile devine mai ușor pentru persoane fără pregătire de specialitate. Îngrijorări similare au fost exprimate și de cercetători de la universități precum Oxford, Stanford și Johns Hopkins, care avertizează că accesul necontrolat la baze de date biologice și utilizarea AI în cercetare ar putea facilita proiectarea sau modificarea unor agenți patogeni periculoși. Printre soluțiile discutate se află mecanisme de verificare a utilizatorilor și sisteme de monitorizare pentru detectarea utilizărilor abuzive. Europa: discuții pentru un cadru comun, dar fără lege unitară La nivelul Uniunii Europene, tema este inclusă în discuțiile privind viitorul Act pentru Biotehnologie, prezentat de Comisia Europeană în 2025. Documentul tratează ADN-ul și ARN-ul sintetic drept tehnologii sensibile din perspectiva biosecurității și propune un cadru comun pentru verificarea clienților și raportarea comenzilor suspecte. În prezent, nu există o legislație unitară la nivelul UE care să reglementeze direct acest domeniu, iar dezbaterea se poartă pe fondul extinderii rapide a AI și al eforturilor autorităților de a anticipa riscuri emergente. În această logică, biosecuritatea este indicată tot mai des ca posibil „următor domeniu major de reglementare” în era AI. [...]
AI-ul comprimă ritmul schimbării mai repede decât pot reacționa instituțiile , iar pentru România riscul imediat este să ajungă dependentă de infrastructură și modele dezvoltate în afara țării, cu efecte directe asupra capacității statului de a guverna și a economiei de a concura, potrivit unei analize publicate de Digi24 . Textul argumentează că „suveranitatea” în secolul XXI nu mai înseamnă doar control teritorial, ci controlul fluxurilor critice: date, energie, capital, semiconductori, modele de inteligență artificială, lanțuri logistice și securitate cibernetică. Miza devine capacitatea de a procesa informația și de a o transforma rapid în decizie și „capacitate materială” (infrastructură, producție, apărare, servicii publice). De ce contează: decalajul dintre tehnologie și democrație Analiza descrie o ruptură între viteza adaptării tehnologice și viteza adaptării instituționale. În timp ce instituțiile se schimbă în ani sau decenii, platformele digitale își pot ajusta algoritmii în ore, iar un model AI poate fi reantrenat și distribuit global înainte ca un parlament să finalizeze audieri. Consecința, în logica autorului, este un „decalaj esențial”: tehnologia ajunge să proceseze realitatea mai repede decât o poate înțelege și guverna democrația, care rămâne „analogică”, birocratică și construită pentru alte cicluri. AI-ul ca infrastructură, nu ca aplicație: dependența ca risc strategic Un punct central este că AI-ul nu ar trebui tratat ca o unealtă pe care o „deschizi și o închizi”, ci ca un mediu – un strat operațional care va intra în educație, administrație, apărare, sănătate, justiție, finanțe, presă și viața privată. În acest context, întrebările relevante devin operaționale și economice: cine proiectează, controlează, auditează, alimentează și plătește aceste sisteme. Pentru România și Europa, analiza pune problema unei alegeri strategice: utilizatori ai sistemelor altora sau constructori de capacități proprii. Dependența, avertizează autorul, poate lua forma „lipsei alternativelor”: administrații care rulează pe infrastructură străină, companii care nu pot concura fără modele externe, armate care cumpără sisteme pe care nu le pot repara, cetățeni într-un spațiu informațional filtrat de algoritmi neverificabili. Ce ar presupune un „ stat-platformă ” și un sistem imunitar informațional În locul unui „stat-algoritm” (riscant) sau al unui „stat-dosar” (ineficient), textul propune ideea de „stat-platformă”, definit ca infrastructură publică deschisă, interoperabilă, auditată și transparentă, capabilă să integreze inovația fără pierderea controlului democratic. Sunt enumerate câteva componente: date publice „curate”, identitate digitală funcțională, sisteme interoperabile, audit algoritmic și competență tehnologică în instituții, plus parteneriate între stat, universități și industrie. Separat, analiza avertizează că democrația poate fi atacată nu doar prin minciună, ci prin „supraîncărcare” informațională, într-un mediu în care AI poate produce limbaj la scară industrială. În această logică, alfabetizarea digitală devine infrastructură de securitate națională, iar presa independentă – parte din mecanismul de verificare a realității. „Substratul” material: AI-ul depinde de energie, cipuri și infrastructură Un alt element cu implicații economice este insistența că AI nu este „pură informație”, ci are nevoie de materie: energie, servere, cabluri, sateliți, apă pentru răcire și capacitate industrială. De aici rezultă că discuția despre AI nu poate fi separată de energie, apărare, industrie și autonomie strategică. Pentru România, concluzia analizei este că intrarea în epoca AI nu poate fi redusă la achiziții „la cheie” sau la cumpărarea de licențe sub eticheta digitalizării. Autorul susține că fondurile europene, investițiile în apărare, reconstrucția industrială, educația tehnică, cercetarea aplicată și infrastructura digitală ar trebui gândite împreună, ca strategie de supraviețuire într-o competiție între societăți. În final, textul plasează miza în capacitatea de a orienta evoluția tehnologică prin instituții și reguli: AI va amplifica ceva, iar întrebarea este dacă amplifică democrația și autonomia sau manipularea și dependența. Limitarea importantă: analiza nu propune un calendar sau măsuri legislative concrete, ci trasează un cadru de risc și direcții generale de acțiune pentru stat și economie. [...]
