Știri
Știri din categoria Inteligență artificială
Șeful Nvidia respinge ideea unor noi reguli pentru AI, într-un moment în care Congresul discută evaluări externe de siguranță, iar miza este dacă industria va rămâne în principal autoreglementată sau va intra sub un cadru legal mai strict, potrivit Politico.
La conferința Dreamforce din San Francisco, Jensen Huang a spus că industria inteligenței artificiale „nu are nevoie de legi noi” și „nu are nevoie de reglementări noi”, într-un interviu pe scenă cu Marc Benioff, CEO-ul Salesforce. Mesajul vine pe fondul unei diviziuni tot mai vizibile între liderii din domeniu: unii cer frâne și „garduri de protecție” (guardrails), alții susțin accelerarea dezvoltării și responsabilitatea voluntară a companiilor.
Huang a reluat o linie de argumentație promovată și de președintele Donald Trump și de lideri republicani, inclusiv consilierul pentru AI David Sacks și președintele Camerei Reprezentanților Mike Johnson, care susțin că siguranța ar trebui gestionată în principal de companiile de AI. În aceeași logică, Huang a formulat un criteriu simplu pentru lansarea produselor:
„Dacă construiești un produs sau un serviciu și nu ești încrezător în funcționalitatea, capacitatea sau siguranța lui, atunci nu-l lansa.”
Poziția sa intră în tensiune cu inițiativele care cer verificări independente: Politico notează că OpenAI a susținut marți un plan bipartizan în Camera Reprezentanților pentru evaluări de siguranță realizate de terți (third-party safety assessments), adică audituri externe ale sistemelor.
Politico relatează că Huang a consolidat o relație aparent apropiată cu Trump în al doilea mandat al acestuia. Cu o zi înainte de Dreamforce, Huang a primit un apel de la președinte în timp ce era pe scenă la un eveniment din Los Angeles, iar cei doi au fost de acord că avertismentele „existențiale” despre AI sunt exagerate; Trump le-a numit „o farsă”.
Declarațiile lui Huang au venit la scurt timp după ce Dario Amodei, CEO Anthropic, a vorbit la același eveniment și după ce apelurile sale recente pentru încetinirea ritmului de dezvoltare au declanșat, potrivit publicației, un „incendiu politic”. Amodei a pledat pentru standarde comune în industrie și pentru accesul evaluatorilor externi la programele companiei.
În paralel, Politico consemnează și alte poziții exprimate la Dreamforce:
Benioff a spus că firmele trebuie să respecte legile existente și a descris momentul drept „foarte fluid” pentru AI, dar a insistat și pe ideea responsabilizării executive, comparând AI cu rețelele sociale și sugerând că lecțiile din social media ar trebui aplicate înainte ca efectele AI să scape de sub control.
Huang a respins și temerile privind pierderile de locuri de muncă din cauza automatizării, pe care le-a numit „complet absurde”, potrivit Politico.
Recomandate
Donald Trump a minimalizat public riscurile de securitate ale inteligenței artificiale , într-un apel telefonic purtat pe scenă cu CEO-ul Nvidia, Jensen Huang , în timpul „All-In Summit” din Los Angeles, potrivit Focus . Episodul, distribuit rapid pe platforma X, readuce în prim-plan tensiunea dintre discursul politic pro-expansiune și cererile din industrie pentru reguli mai stricte privind dezvoltarea AI. În înregistrarea descrisă de publicație, o asistentă îi aduce telefonul lui Huang în timp ce acesta se află pe scenă; după o scurtă salutare, șeful Nvidia pune convorbirea pe difuzor, astfel încât sala să-l audă pe președintele SUA. „Roboții nu vor prelua puterea. Inteligența artificială nu va prelua lumea. Totul este o înșelătorie.” Trump a calificat îngrijorările legate de siguranța AI drept „o înșelătorie” și a susținut că criticii „le fac jocul” unor actori care „nu vor ca asta să se întâmple”, menționând explicit politicieni și China. Centrele de date, prezentate ca „motor” de prosperitate În aceeași convorbire, Trump a vorbit despre centrele de date (infrastructura care găzduiește serverele și echipamentele de calcul folosite inclusiv pentru AI), pe care le-a descris drept „grozave” și capabile să facă oamenii și statele „bogate”. El a comparat tehnologia cu o resursă strategică, afirmând că este „petrolul” următorilor 20–25 de ani și că ar fi „mai mare decât internetul”. Totuși, potrivit relatării, Trump a adăugat și o notă de prudență, spunând că oamenii trebuie să fie „puțin atenți” și să acționeze „cu chibzuință”. Context: presiune pentru „garduri de protecție” în AI Declarațiile vin pe fondul unei dezbateri intense în industrie despre riscurile AI. Focus notează că mai multe voci cunoscute au cerut recent încetinirea ritmului de dezvoltare. Dario Amodei , CEO-ul Anthropic, a scris într-un eseu că tehnologia are nevoie de reguli de protecție, poziție susținută, potrivit sursei, și de Elon Musk și Sam Altman. Publicația mai menționează că, în zilele anterioare, cercetători din companii de AI au demisionat și au avertizat asupra unor pericole grave. Miza pentru Nvidia: vânzări globale și sensibilitatea Chinei Jensen Huang este membru în consiliul de consilieri pentru știință și tehnologie al lui Trump, iar Focus mai scrie că acesta a pledat în fața politicienilor pentru ca Nvidia să își poată vinde produsele la nivel global. În același timp, criticii avertizează că o astfel de deschidere ar putea avantaja și China. În lipsa unor detalii suplimentare în material despre pași concreți de politică publică, rămâne de urmărit dacă mesajele lui Trump se vor traduce în decizii privind reglementarea AI și controlul exporturilor de tehnologie, două teme cu impact direct asupra marilor producători de cipuri și a investițiilor în centre de date. [...]
Mark Zuckerberg mizează pe piață și litigii, nu pe frâne de reglementare, pentru controlul IA , într-un moment în care marile companii din tehnologie discută tot mai des despre standarde comune și auto-reglementare, potrivit Agerpres . Șeful Meta respinge apelurile de suspendare sau încetinire a dezvoltării inteligenței artificiale, argumentând că „mecanismele pieței” și riscul de acțiuni în justiție sunt „cele mai bune garanții” în fața acestei tehnologii. Într-o postare pe X, Zuckerberg a susținut că utilizatorii nu vor folosi „agenți” (programe de tip asistent care execută sarcini) care nu sunt „aliniați” intereselor lor, iar acest lucru creează un stimulent economic pentru laboratoare să-și ajusteze modelele. În acest context, „alinierea” înseamnă efortul de a face modelele de IA să se comporte conform intențiilor oamenilor, iar Zuckerberg anticipează că laboratoarele care nu se concentrează pe această zonă „vor rămâne în urmă”. De ce se reaprinde dezbaterea: securitate și modele care se perfecționează singure Îngrijorările legate de IA au crescut în ultimele săptămâni, după „mai multe incidente de securitate” și după apariția unei noi capacități a modelelor de a se perfecționa singure, fără intervenție umană, notează materialul citat de Agerpres. Pe acest fundal, discuția se mută tot mai mult spre întrebarea dacă sectorul se poate auto-reglementa. În paralel, companii precum OpenAI, Anthropic și Google analizează crearea unui organism comun pentru elaborarea unor standarde, în încercarea de a răspunde presiunilor publice și politice privind riscurile. Poziționarea Meta: evaluări independente, dar fără reguli care întârzie lansările În timp ce o parte a industriei, condusă de directorul general al Anthropic, Dario Amodei, pledează pentru încetinirea dezvoltării IA, Zuckerberg spune că amenințarea cu procese obligă deja laboratoarele să acționeze responsabil. Ca exemplu, el indică decizia Meta de a amâna cu „mai multe luni” lansarea sistemului Muse AI (care include agenți personalizați), pentru a consolida măsurile de securitate și siguranță. Zuckerberg s-a declarat și în favoarea evaluărilor independente ale sistemelor de IA, menționând că Meta Superintelligence Labs folosește deja experți externi. Totodată, el a cerut un „ecosistem mai vast și mai diversificat de evaluatori” la nivelul întregului sector, într-o critică voalată la adresa Anthropic, companie acuzată de unii că ar favoriza evaluatori cu care are legături strânse. Pe linia de reglementare, Meta se opune oricăror reguli care ar putea încetini dezvoltarea domeniului. Compania intenționează să investească anul acesta până la 145 de miliarde de dolari (aprox. 652,5 miliarde lei) în infrastructura sa de IA, iar fondatorul său a spus la începutul lunii august că nicio regulă nu ar trebui să întârzie lansarea modelelor americane „nici măcar cu o lună”. Opinia lui Zuckerberg a fost salutată de mai multe personalități din Silicon Valley apropiate Casei Albe, care contestă, la rândul lor, intensificarea avertismentelor privind riscurile IA și apelurile de încetinire a dezvoltării acesteia. [...]
China își fixează reguli unice pentru datele EEG folosite în dispozitive medicale BCI , un pas de reglementare care poate grăbi intrarea pe piață a unor tehnologii bazate pe Inteligență Artificială, prin standardizarea calității datelor și a testării. Potrivit Antena 3 , autoritățile chineze au aprobat primul standard din lume pentru dispozitive medicale de tip interfață creier–calculator (BCI), care folosesc AI. Reglementarea a fost aprobată de autoritățile de reglementare medicală din China și este prezentată ca un standard global „în premieră” pentru această categorie de dispozitive, conform Global Times, citat de Antena 3. Intrarea oficială în vigoare este programată la 1 septembrie 2027 , potrivit postului China Central Television (CCTV). Ce reglementează standardul și de ce contează pentru industrie Standardul stabilește cerințe tehnice și metode de testare pentru gestionarea datelor în cazul dispozitivelor medicale BCI, acoperind întregul flux: colectarea datelor EEG (electroencefalografie), procesarea, etichetarea, stocarea, accesarea datelor. Wang Peng, cercetător asociat la Academia de Științe Sociale din Beijing, spune că miza este instituirea unui „etalon unificat de calitate” pentru seturile de date EEG la nivelul întregii industrii. În practică, prevederile ar urma să ajute companiile să rezolve probleme recurente, precum lipsa unor standarde unitare de control al calității și procesele nestandardizate de dezvoltare a seturilor de date. Impactul asupra siguranței și a utilizării clinice Administrația Națională pentru Produse Medicale din China (NMPA) descrie dispozitivele medicale BCI ca mașini inteligente capabile să „citească” semnalele creierului. Pentru a funcționa, acestea „învață” din volume mari de date EEG, folosite la antrenarea algoritmilor de Inteligență Artificială care interpretează intențiile pacienților. În acest context, calitatea datelor devine critică atât pentru rezultatele tratamentului, cât și pentru siguranța pacienților. Potrivit lui Peng Wang, standardul ar întări siguranța prin cerințe unitare de calitate pentru datele EEG utilizate la antrenarea algoritmilor AI și ar susține o decodificare mai precisă a „intențiilor” cerebrale, reducând riscurile de siguranță „la nivelul datelor”. Global Times mai notează că NMPA a folosit o procedură accelerată pentru elaborarea și aprobarea standardului, care ar acoperi un gol în normele internaționale și ar poziționa China în avangarda reglementării tehnologiilor BCI. În evaluarea citată, standardul ar putea accelera transpunerea BCI în practica clinică, prin eliminarea unor obstacole legate de date care frânează comercializarea produselor pentru recuperare medicală și tratarea bolilor neurologice. [...]
Donald Trump transmite că SUA nu au nevoie de reguli noi pentru AI , susținând că instrumentele penale și de reglementare existente sunt suficiente – o poziție care poate influența direct ritmul investițiilor în centre de date și dezvoltarea tehnologiei, într-un moment de volatilitate pe bursă, potrivit HotNews . Președintele SUA a minimalizat îngrijorările exprimate în weekend de lideri din industrie privind utilizarea abuzivă a inteligenței artificiale. Într-o postare pe Truth Social, Trump a susținut că „singurul control” de care ar avea nevoie AI este „un președinte puternic și inteligent”, adăugând că Statele Unite „au deja puteri extraordinare în materie penală și de reglementare” asupra companiilor din domeniu. În același mesaj, Trump a afirmat că punerea sub semnul întrebării a eforturilor de dezvoltare a AI ar avantaja China și a denunțat ceea ce a numit o „teorie a conspirației bolnavă” împotriva inteligenței artificiale și a centrelor de date. Context: presiune pe acțiuni și temeri legate de controlul agenților AI Declarațiile vin într-o zi în care acțiunile companiilor din sectorul inteligenței artificiale au scăzut puternic la nivel mondial, după ce liderii unora dintre cele mai mari companii din industrie au cerut încetinirea ritmului de dezvoltare a tehnologiei. Potrivit Reuters , declinul urmează unor săptămâni în care au fost relatate cazuri în care agenți AI au acționat împotriva instrucțiunilor operatorilor pentru a accesa sisteme externe. În paralel, mai mulți cercetători importanți în siguranța AI au părăsit companiile la care lucrau, avertizând că dezvoltarea rapidă ar putea duce, într-un viitor nu foarte îndepărtat, la dispariția rasei umane. Ce propune industria și ce semnal dă Casa Albă Sâmbătă, CEO-ul Anthropic, Dario Amodei , a prezentat un cadru în trei etape pentru temperarea ritmului de dezvoltare a AI, astfel încât să existe mai mult timp pentru gestionarea riscurilor. Propunerea a fost susținută de mai mulți directori din industrie, inclusiv Elon Musk (xAI) și Sam Altman (OpenAI). Trump a afirmat că mecanismele de siguranță ar fi fost deja folosite în cazul lui Amodei și a susținut că administrația sa „i-a împiedicat deja pe cei din domeniul AI să facă lucruri rele sau potențial rele” și că va continua în aceeași direcție. Ce urmează: discuții SUA–China pe tema riscurilor AI Trump urmează să se întâlnească săptămâna viitoare, la Washington, cu președintele chinez Xi Jinping. Reuters a relatat anterior că cele două țări plănuiau și o întâlnire separată, la jumătatea lunii septembrie, pentru a discuta riscurile asociate inteligenței artificiale, reuniune care ar fi urmat să fie condusă de oficiali guvernamentali de rang inferior. [...]
Administrația Trump tratează reglementarea AI mai ales ca pe o competiție cu China , ceea ce riscă să împingă în plan secund preocupările legate de siguranță și de concentrarea puterii în industrie, potrivit CNN . În material, CNN descrie un peisaj politic în care avertismentele tot mai dure venite chiar din interiorul industriei – inclusiv scenarii „catastrofale” despre pierderea controlului asupra sistemelor de inteligență artificială – se lovesc de o abordare a Casei Albe centrată pe viteză, inovație și avantaj strategic față de China. Miza, pentru companii și investitori, este un cadru de reguli care poate accelera sau frâna dezvoltarea și comercializarea tehnologiilor de vârf. Avertismentele industriei: „încetinire conștientă” și risc existențial CNN pornește de la apelul CEO-ului Anthropic, Dario Amodei , pentru o „încetinire conștientă” a dezvoltării AI, argumentând că ritmul ar putea depăși capacitatea oamenilor de a gestiona tehnologia. Amodei avertizează că, fără control, sistemele ar putea ajunge dincolo de înțelegerea și controlul uman. În paralel, un fost inginer care a lucrat la OpenAI și Anthropic, Jacob Coxon, a mers mai departe, susținând că AI ar putea duce la „sfârșitul umanității” până la finalul deceniului. CNN notează însă că nu există o explicație unanim acceptată despre mecanismul concret prin care s-ar produce un astfel de deznodământ, iar scenariile invocate rămân speculative. Reglementare cerută de companii, dar contestată politic Pe fondul acestor avertismente, unele companii – inclusiv Anthropic și OpenAI – au cerut public intervenția guvernului pentru a stabili un cadru de reglementare care să limiteze dezvoltarea AI. CNN leagă această poziționare și de contextul economic: cursa pentru dominarea AI se suprapune cu pregătiri pentru listări la bursă (IPO), ceea ce ridică întrebări despre stimulentele comerciale din spatele apelurilor la reguli. Jurnalistul de tehnologie Jacob Ward, contributor CNN, descrie situația ca pe o alergare spre o „prăpastie” a unui grup restrâns de companii puternice, care susțin că nu se pot opri singure. În același registru, senatorul Bernie Sanders a anunțat o inițiativă legislativă care vizează interzicerea „superinteligenței artificiale” și o pauză temporară în dezvoltarea AI avansate, invocând riscul ca marile companii tehnologice să piardă controlul asupra propriilor produse. Casa Albă și „piața deschisă”: AI ca armă economică în rivalitatea cu China În contrapondere, David Sacks – investitor tech și „țar” pentru AI și cripto în administrația Trump, potrivit CNN – promovează o abordare mai apropiată de piața liberă și contestă motivațiile celor care avertizează asupra riscurilor extreme. În apariții publice, el sugerează că mesajele „doomerilor” (cei care anticipează scenarii apocaliptice) ar putea face parte dintr-o campanie menită să frâneze inovația americană, inclusiv în beneficiul Chinei. Președintele Donald Trump, aflat în Irlanda la momentul relatării CNN, a minimalizat ideea că cele mai sumbre scenarii „se vor întâmpla” și a revenit la tema competiției cu China: „Suntem înaintea Chinei în AI. (…) cine câștigă AI câștigă. Și putem pune balustrade.” Din această perspectivă, reglementarea devine mai degrabă un instrument de politică industrială și de securitate națională decât un răspuns la riscuri existențiale. CNN amintește și măsuri precum blocarea exportului unor cipuri Nvidia către China sau întârzieri temporare ale unor lansări pentru evaluarea impactului asupra securității naționale. Ce se vede în teren: opoziția față de centrele de date, nu față de „sfârșitul lumii” CNN mai arată că, dincolo de dezbaterea despre „sfârșitul umanității”, presiunea politică imediată vine din altă direcție: reacția publică la centrele de date necesare pentru AI. În SUA, aceste proiecte sunt contestate pentru efecte locale – consum de energie, impact asupra apei, ocuparea terenurilor agricole și posibile scumpiri ale facturilor. Această opoziție, descrisă ca transversală politic, poate influența indirect agenda de reglementare: nu prin teama de scenarii extreme, ci prin costuri și externalități vizibile, cu efecte economice directe în comunități. De ce contează pentru companii și investitori Din relatarea CNN rezultă o tensiune cu impact de reglementare și de piață: dacă Washingtonul prioritizează „cursa cu China”, atunci regulile pot favoriza accelerarea dezvoltării și consolidarea jucătorilor mari, în timp ce preocupările privind siguranța și concentrarea puterii (controlul AI în „câteva mâini”) rămân disputate politic. În lipsa unui consens, direcția probabilă rămâne fragmentată: măsuri punctuale motivate de securitate națională și presiuni locale legate de infrastructură, mai degrabă decât un cadru amplu care să trateze explicit riscurile invocate de „doomeri” și de o parte a industriei. [...]
OpenAI spune că va adopta „frânarea” dezvoltării modelelor de vârf și va deschide evaluarea de siguranță către verificatori independenți , într-o mișcare care pune în prim-plan riscul de coliziune cu regulile antitrust atunci când rivalii încearcă să coordoneze standarde comune. Potrivit The Next Web , Sam Altman a susținut public apelul lui Dario Amodei (Anthropic) de a „încetini” ritmul la frontiera AI și a spus că OpenAI va urma aceeași direcție. Altman a scris că este de acord cu ideea de „a regla ritmul” („pacing”) la frontiera tehnologică și a descris drept „o idee grozavă” propunerea ca evaluatori independenți să primească acces „ca de angajat” pentru a verifica din interior munca de siguranță. El a adăugat că OpenAI va face la fel și că va reveni cu detalii. În același registru, Elon Musk (xAI) a reacționat succint, afirmând că „Dario are dreptate”, conform articolului. Ce presupune angajamentul de „acces ca de angajat” și de ce contează În eseul său, Amodei a cerut laboratoarelor de AI de vârf să permită echipelor externe să verifice practicile de siguranță direct din interiorul organizațiilor. Varianta Anthropic, descrisă de publicație, include elemente concrete: birouri, ecusoane, laptopuri de companie și dreptul evaluatorilor de a publica ceea ce găsesc. Faptul că două dintre cele mai mari laboratoare au anunțat, la o zi distanță, o poziție comună în public este prezentat ca primul pas dintr-un plan în trei etape propus de Amodei. Miza de reglementare: coordonare între rivali și riscul antitrust Pe lângă apelul la „încetinire”, Amodei a cerut Washingtonului o derogare antitrust limitată, care să permită concurenților să poarte discuții despre siguranță fără ca simpla coordonare să devină problema juridică. În viziunea lui, guvernele nu trebuie să participe, ci doar să permită aceste conversații. În Europa, însă, cadrul este diferit: articolul notează că Bruxelles-ul nu mai acordă „excepții individuale” din 2004, după intrarea în vigoare a Regulamentului 1/2003. Înainte, companiile notificau acordurile către Comisie și așteptau un răspuns; acum, ele își evaluează singure acordurile în raport cu Articolul 101 și își asumă consecințele. Publicația amintește și de un precedent relevant: Comisia Europeană a revizuit în 2023 ghidurile privind cooperarea orizontală (între competitori), extinzându-le semnificativ și introducând un capitol de 21 de pagini despre acordurile de sustenabilitate, inclusiv un „port sigur” (safe harbour) condiționat pentru standarde care îndeplinesc șase criterii. Nu există, însă, un capitol echivalent pentru standarde de siguranță în AI, iar articolul subliniază că „nimeni nu a cerut” unul. Altman și Amodei nu menționează Europa în intervențiile lor, iar șefa tehnologiei din cadrul Comisiei a spus săptămâna trecută că sunt necesare reguli globale, potrivit materialului. [...]
