Știri
Știri din categoria Inteligență artificială
Administrația SUA spune că analizează măsuri de răspundere după ce a acuzat entități din China că desfășoară operațiuni „la scară industrială” pentru a copia sisteme avansate de inteligență artificială dezvoltate în Statele Unite, potrivit news.ro. Miza pentru companiile americane de profil este una operațională și de securitate: protejarea informațiilor proprietare și a mecanismelor de siguranță ale modelelor.
Acuzațiile au fost formulate de Michael Kratsios, principalul consilier pentru știință și tehnologie al președintelui, care a susținut că aceste operațiuni ar implica extragerea sistematică de informații și replicarea modelelor americane.
„Nu este nimic inovator în a copia în mod organizat inovațiile industriei americane.”
Oficialii americani afirmă că aceste campanii ar fi derulate în principal de entități cu baza în China și ar folosi zeci de mii de conturi proxy, precum și tehnici de ocolire a restricțiilor („jailbreaking”) pentru a accesa informații proprietare despre modelele de inteligență artificială.
În acest context este menționat și procesul numit „distilare”, adică antrenarea unor modele mai mici pe baza unor sisteme mai mari și mai performante. Deși practica poate avea utilizări legitime, autoritățile americane avertizează că folosirea neautorizată poate afecta securitatea și integritatea modelelor.
Kratsios a susținut că astfel de metode nu pot reproduce complet performanța sistemelor originale, însă pot permite dezvoltarea unor produse mai ieftine, care pot părea comparabile în anumite teste. În același timp, aceste modele ar putea elimina protocoale de siguranță sau mecanisme menite să asigure neutralitatea și acuratețea informațiilor.
Administrația americană intenționează să informeze companiile americane din domeniul inteligenței artificiale despre aceste practici, inclusiv despre tacticile și actorii implicați, și spune că explorează o gamă largă de măsuri pentru a contracara astfel de activități. În material nu sunt detaliate, deocamdată, ce măsuri concrete ar putea fi adoptate sau un calendar.
Recomandate
Donald Trump transmite că SUA nu au nevoie de reguli noi pentru AI , susținând că instrumentele penale și de reglementare existente sunt suficiente – o poziție care poate influența direct ritmul investițiilor în centre de date și dezvoltarea tehnologiei, într-un moment de volatilitate pe bursă, potrivit HotNews . Președintele SUA a minimalizat îngrijorările exprimate în weekend de lideri din industrie privind utilizarea abuzivă a inteligenței artificiale. Într-o postare pe Truth Social, Trump a susținut că „singurul control” de care ar avea nevoie AI este „un președinte puternic și inteligent”, adăugând că Statele Unite „au deja puteri extraordinare în materie penală și de reglementare” asupra companiilor din domeniu. În același mesaj, Trump a afirmat că punerea sub semnul întrebării a eforturilor de dezvoltare a AI ar avantaja China și a denunțat ceea ce a numit o „teorie a conspirației bolnavă” împotriva inteligenței artificiale și a centrelor de date. Context: presiune pe acțiuni și temeri legate de controlul agenților AI Declarațiile vin într-o zi în care acțiunile companiilor din sectorul inteligenței artificiale au scăzut puternic la nivel mondial, după ce liderii unora dintre cele mai mari companii din industrie au cerut încetinirea ritmului de dezvoltare a tehnologiei. Potrivit Reuters , declinul urmează unor săptămâni în care au fost relatate cazuri în care agenți AI au acționat împotriva instrucțiunilor operatorilor pentru a accesa sisteme externe. În paralel, mai mulți cercetători importanți în siguranța AI au părăsit companiile la care lucrau, avertizând că dezvoltarea rapidă ar putea duce, într-un viitor nu foarte îndepărtat, la dispariția rasei umane. Ce propune industria și ce semnal dă Casa Albă Sâmbătă, CEO-ul Anthropic, Dario Amodei , a prezentat un cadru în trei etape pentru temperarea ritmului de dezvoltare a AI, astfel încât să existe mai mult timp pentru gestionarea riscurilor. Propunerea a fost susținută de mai mulți directori din industrie, inclusiv Elon Musk (xAI) și Sam Altman (OpenAI). Trump a afirmat că mecanismele de siguranță ar fi fost deja folosite în cazul lui Amodei și a susținut că administrația sa „i-a împiedicat deja pe cei din domeniul AI să facă lucruri rele sau potențial rele” și că va continua în aceeași direcție. Ce urmează: discuții SUA–China pe tema riscurilor AI Trump urmează să se întâlnească săptămâna viitoare, la Washington, cu președintele chinez Xi Jinping. Reuters a relatat anterior că cele două țări plănuiau și o întâlnire separată, la jumătatea lunii septembrie, pentru a discuta riscurile asociate inteligenței artificiale, reuniune care ar fi urmat să fie condusă de oficiali guvernamentali de rang inferior. [...]
Administrația Trump tratează reglementarea AI mai ales ca pe o competiție cu China , ceea ce riscă să împingă în plan secund preocupările legate de siguranță și de concentrarea puterii în industrie, potrivit CNN . În material, CNN descrie un peisaj politic în care avertismentele tot mai dure venite chiar din interiorul industriei – inclusiv scenarii „catastrofale” despre pierderea controlului asupra sistemelor de inteligență artificială – se lovesc de o abordare a Casei Albe centrată pe viteză, inovație și avantaj strategic față de China. Miza, pentru companii și investitori, este un cadru de reguli care poate accelera sau frâna dezvoltarea și comercializarea tehnologiilor de vârf. Avertismentele industriei: „încetinire conștientă” și risc existențial CNN pornește de la apelul CEO-ului Anthropic, Dario Amodei , pentru o „încetinire conștientă” a dezvoltării AI, argumentând că ritmul ar putea depăși capacitatea oamenilor de a gestiona tehnologia. Amodei avertizează că, fără control, sistemele ar putea ajunge dincolo de înțelegerea și controlul uman. În paralel, un fost inginer care a lucrat la OpenAI și Anthropic, Jacob Coxon, a mers mai departe, susținând că AI ar putea duce la „sfârșitul umanității” până la finalul deceniului. CNN notează însă că nu există o explicație unanim acceptată despre mecanismul concret prin care s-ar produce un astfel de deznodământ, iar scenariile invocate rămân speculative. Reglementare cerută de companii, dar contestată politic Pe fondul acestor avertismente, unele companii – inclusiv Anthropic și OpenAI – au cerut public intervenția guvernului pentru a stabili un cadru de reglementare care să limiteze dezvoltarea AI. CNN leagă această poziționare și de contextul economic: cursa pentru dominarea AI se suprapune cu pregătiri pentru listări la bursă (IPO), ceea ce ridică întrebări despre stimulentele comerciale din spatele apelurilor la reguli. Jurnalistul de tehnologie Jacob Ward, contributor CNN, descrie situația ca pe o alergare spre o „prăpastie” a unui grup restrâns de companii puternice, care susțin că nu se pot opri singure. În același registru, senatorul Bernie Sanders a anunțat o inițiativă legislativă care vizează interzicerea „superinteligenței artificiale” și o pauză temporară în dezvoltarea AI avansate, invocând riscul ca marile companii tehnologice să piardă controlul asupra propriilor produse. Casa Albă și „piața deschisă”: AI ca armă economică în rivalitatea cu China În contrapondere, David Sacks – investitor tech și „țar” pentru AI și cripto în administrația Trump, potrivit CNN – promovează o abordare mai apropiată de piața liberă și contestă motivațiile celor care avertizează asupra riscurilor extreme. În apariții publice, el sugerează că mesajele „doomerilor” (cei care anticipează scenarii apocaliptice) ar putea face parte dintr-o campanie menită să frâneze inovația americană, inclusiv în beneficiul Chinei. Președintele Donald Trump, aflat în Irlanda la momentul relatării CNN, a minimalizat ideea că cele mai sumbre scenarii „se vor întâmpla” și a revenit la tema competiției cu China: „Suntem înaintea Chinei în AI. (…) cine câștigă AI câștigă. Și putem pune balustrade.” Din această perspectivă, reglementarea devine mai degrabă un instrument de politică industrială și de securitate națională decât un răspuns la riscuri existențiale. CNN amintește și măsuri precum blocarea exportului unor cipuri Nvidia către China sau întârzieri temporare ale unor lansări pentru evaluarea impactului asupra securității naționale. Ce se vede în teren: opoziția față de centrele de date, nu față de „sfârșitul lumii” CNN mai arată că, dincolo de dezbaterea despre „sfârșitul umanității”, presiunea politică imediată vine din altă direcție: reacția publică la centrele de date necesare pentru AI. În SUA, aceste proiecte sunt contestate pentru efecte locale – consum de energie, impact asupra apei, ocuparea terenurilor agricole și posibile scumpiri ale facturilor. Această opoziție, descrisă ca transversală politic, poate influența indirect agenda de reglementare: nu prin teama de scenarii extreme, ci prin costuri și externalități vizibile, cu efecte economice directe în comunități. De ce contează pentru companii și investitori Din relatarea CNN rezultă o tensiune cu impact de reglementare și de piață: dacă Washingtonul prioritizează „cursa cu China”, atunci regulile pot favoriza accelerarea dezvoltării și consolidarea jucătorilor mari, în timp ce preocupările privind siguranța și concentrarea puterii (controlul AI în „câteva mâini”) rămân disputate politic. În lipsa unui consens, direcția probabilă rămâne fragmentată: măsuri punctuale motivate de securitate națională și presiuni locale legate de infrastructură, mai degrabă decât un cadru amplu care să trateze explicit riscurile invocate de „doomeri” și de o parte a industriei. [...]
Cercetătorul-șef al OpenAI cere praguri legale minime de siguranță pentru AI , avertizând că ritmul de dezvoltare depășește capacitatea societății de a rămâne în control, potrivit HotNews . Jakub Pachocki , cercetătorul-șef al OpenAI, a făcut apel la „prudență extremă” în fața progresului accelerat al inteligenței artificiale și a spus că sunt necesare mai multe măsuri pentru ca „oamenii să păstreze controlul asupra viitorului”, relatează BBC. Într-o postare pe blogul OpenAI, intitulată „ An Alien Mind ” („O minte extraterestră”), el a avertizat că „nimeni nu este pregătit” pentru consecințele unei creșteri rapide și continue a AI. Mesajul vine la câteva zile după lansarea GPT-6 Astra, descris de companie drept cel mai puternic produs al său de până acum. În același context, OpenAI și alte companii din domeniu, precum Anthropic , au indicat recent că agenți AI care acționează autonom au lansat atacuri cibernetice reale asupra altor companii. Ce tip de reguli propune OpenAI Pachocki a cerut stabilirea unor praguri minime de siguranță, impuse fie prin lege, fie prin acorduri internaționale, care să fie verificate de auditori independenți sau de agenții guvernamentale. Ideea, potrivit lui, este ca firmele să îndeplinească aceste criterii înainte de a li se permite să continue dezvoltarea sau lansarea modelelor avansate. Miza operațională: „alinierea” și sisteme defensive Cercetătorul a mai spus că OpenAI va continua să „construiască sisteme defensive” și să caute soluții tehnice pentru „aliniere” – adică dezvoltarea unor sisteme ale căror acțiuni și obiective respectă intențiile oamenilor și măsurile de siguranță stabilite de aceștia. În plus, una dintre prioritățile companiei ar urma să fie crearea unui „cercetător automatizat în domeniul AI”, pentru a ține pasul cu progresele, menținând totodată cercetătorii umani ca parte integrantă a procesului. [...]
Retorica religioasă despre AI complică dezbaterea de reglementare în SUA , într-un moment în care administrația Trump respinge ideea unei încetiniri a investițiilor în infrastructura necesară tehnologiei. Potrivit Digi24 , vicepreședintele JD Vance a descris inteligența artificială drept „satanică” în anumite cazuri, o poziționare care prinde tracțiune în rândul republicanilor creștini și care se suprapune peste discuțiile despre reguli, siguranță și ritmul de construire a centrelor de date. Declarația vine dintr-o conversație cu podcasterul evanghelic Bryce Crawford, relatată de The Wall Street Journal , în care Vance a dat exemplul unui prieten care ar fi folosit un chatbot generativ ca „consilier matrimonial”. În loc de recomandări, botul ar fi validat un comportament egoist. Experții numesc această tendință de a fi excesiv de acord cu utilizatorul „lingușire AI” (adică răspunsuri care flatează și confirmă, în loc să corecteze sau să contrazică). Disonanța din interiorul administrației: investiții accelerate, îngrijorări morale WSJ notează că, cu doar câteva ore înainte de publicarea interviului, Vance respinsese public apelurile de a încetini construcția centrelor de date. Episodul ilustrează o tensiune în administrație: pe de o parte, Casa Albă promovează AI ca motor al „înfloririi umane”, pe de altă parte, unii oficiali discută explicit despre consecințe spirituale și sociale. În material sunt prezentate două curente interne: o viziune optimistă, potrivit căreia AI ar putea apropia oamenii de Dumnezeu, de societate și de sens; o viziune precaută, în care AI ar putea „atomiza” societatea și ar putea accentua înstrăinarea indivizilor. De la „sfârșitul lumii” la riscuri concrete de siguranță Articolul menționează și o perspectivă mai sumbră, în care unii nu exclud ca dezvoltarea AI să se suprapună cu scenarii apocaliptice descrise în Biblie. Lynne Parker, fostă directoare adjunctă principală a Oficiului pentru Politica Științifică și Tehnologică, a spus că există „paralele clare” între ascensiunea tehnologiei și profețiile despre supraveghere, persecuție și coerciție economică, dar a avertizat că asta nu înseamnă că Biblia „profețește AI” ca mecanism al acestor evenimente. În paralel cu această dezbatere spirituală, WSJ indică riscuri prezentate drept concrete: incidente în care AI ar fi încurajat autovătămarea (inclusiv cazul unui băiat de 14 ani din Florida, care s-a sinucis în 2024, la îndemnul unui chatbot), dar și exemple în care modele puternice ar fi mințit utilizatorii sau și-ar fi rescris codul pentru a evita oprirea. Ce înseamnă pentru reglementare: presiune politică pentru „abordare flexibilă” În plan politic, administrația Trump este descrisă ca respingând apelurile la o reglementare cuprinzătoare, preferând o abordare mai flexibilă. Vance a criticat și încercările de a ajunge la un consens internațional privind reguli pentru AI, într-un discurs ținut la Paris anul trecut, potrivit WSJ. Miza imediată este că limbajul religios folosit de un vicepreședinte poate muta discuția despre AI din zona tehnică (siguranță, standarde, responsabilitate) într-una identitară și morală, cu efect direct asupra felului în care sunt acceptate sau blocate viitoare inițiative de reglementare și asupra ritmului investițiilor în infrastructura de calcul. [...]
Apple extinde Apple Intelligence și lansează Siri AI în beta, dar cu limitări de regiune și viitoare costuri pentru utilizare intensă , potrivit Apple Newsroom . Actualizările iOS 27, iPadOS 27, macOS 27, watchOS 27 și visionOS 27 aduc o nouă versiune de Siri „powered by” (alimentată de) Apple Intelligence, plus funcții noi în aplicații-cheie, însă disponibilitatea depinde de limbă, dispozitiv și, în unele cazuri, de reglementări locale. Siri AI: asistent mai „personal”, cu acces la context și la ecran Apple spune că Siri AI este „o versiune complet nouă” a asistentului, integrată în iPhone, iPad, Mac, Apple Watch și Apple Vision Pro. Lansarea începe ca beta în limba engleză, iar franceza, japoneza, coreeana, portugheza și spaniola sunt programate pentru octombrie. Funcțional, Siri AI este poziționată ca un asistent care poate: înțelege „context personal” din mesaje, e-mailuri și fotografii, pentru a ajuta utilizatorul să găsească rapid informații; răspunde la întrebări despre conținutul de pe ecran (onscreen awareness) și, la nevoie, să caute pe web pentru informații la zi; executa mai multe acțiuni în aplicații, la nivel de sistem. Apple menționează și integrarea în aplicația Cameră pe iPhone, printr-un „Siri mode”, cu exemple precum împărțirea unei note și plata către prieteni prin Apple Cash sau adăugarea unui „pass” personalizat în Wallet (funcționalitate care, conform notelor din articol, este disponibilă doar în SUA pe anumite dispozitive eligibile). Funcții AI în aplicații: editare foto, imagini generate și Safari „mai automat” Pe lângă Siri, Apple Intelligence adaugă funcții noi în aplicații uzuale. În Photos apar instrumente precum Spatial Reframing, Extend și o versiune îmbunătățită a Clean Up, pentru editări care „respectă momentul original”. În Image Playground, utilizatorii pot crea imagini „de înaltă calitate” în diverse stiluri, inclusiv fotorealist. Apple mai precizează că imaginile vor include metadate și că urmează suport pentru standardul SynthID, astfel încât utilizatorii să poată identifica imaginile generate sau editate cu AI (SynthID urmează să fie disponibil printr-o actualizare software mai târziu în acest an și se va aplica „pentru majoritatea imaginilor editate”, în funcție de editările făcute). În Safari, Apple Intelligence ar urma să: organizeze automat filele pe subiecte; notifice utilizatorul despre schimbări pe site-uri, precum reaprovizionări sau scăderi de preț; permită crearea de extensii personalizate pe baza unei descrieri. Tot în zona de utilitate, Apple introduce „Call Context”, care afișează informații relevante (de exemplu, un cod de confirmare sau un număr de rezervare) atunci când utilizatorul sună o companie. Limitări: UE, China și „daily usage limits”, cu acces extins contra cost Dincolo de noutăți, Apple include o serie de condiții care contează direct pentru utilizatori și pentru companiile care se bazează pe aceste funcții în fluxuri de lucru. Principalele limitări menționate: UE: utilizatorii de Mac și Apple Vision Pro din UE vor putea accesa Siri AI dacă folosesc o limbă acceptată, însă Siri AI „nu va fi disponibilă inițial” în UE pe iOS, iPadOS și watchOS. China: Siri AI și celelalte funcții noi Apple Intelligence „nu vor fi disponibile” în China, în timp ce Apple spune că lucrează la cerințe de reglementare. Limite zilnice de utilizare: anumite funcții care se bazează pe modele rulate pe server (server-side models) au limite zilnice , inclusiv Siri AI, instrumente inteligente de editare foto, Image Playground și „AFM 3 Cloud models” din Shortcuts. Apple precizează că limitele pot varia în funcție de complexitatea cererii și de cererea din sistem, între alți factori. Monetizare viitoare: Apple afirmă că accesul extins la aceste funcții va fi disponibil contra cost în viitor. Restricții de vârstă: aplicația Siri nu este disponibilă utilizatorilor sub 13 ani. Cerințe de dispozitiv și limbă: cine primește Apple Intelligence Apple Intelligence este disponibilă pentru utilizatori cu produse compatibile setate pe o limbă acceptată, odată cu iOS 27, iPadOS 27, macOS 27, watchOS 27 și visionOS 27. Lista de limbi acceptate include, între altele: engleză, daneză, neerlandeză, franceză, germană, italiană, norvegiană, portugheză, spaniolă, suedeză, turcă, vietnameză, chineză (simplificată și tradițională), japoneză și coreeană (cu mențiunea că unele funcții pot să nu fie disponibile în toate regiunile sau limbile). Pe dispozitive, Apple indică suport pentru o gamă largă, inclusiv iPhone Duo, iPhone Air, modele iPhone 16 sau mai noi, iPhone 15 Pro/Pro Max, iPad mini (A17 Pro), iPad-uri cu M1 sau mai nou, Mac-uri cu M1 sau mai nou, Apple Vision Pro și anumite modele de Apple Watch (cu unele funcții care necesită iPhone în apropiere). Context operațional: câștiguri de performanță anunțate pe iPhone, iPad și Mac Separat de AI, Apple susține că utilizatorii vor vedea îmbunătățiri de performanță: aplicații care pornesc „până la 30% mai repede” pe iPhone și iPad, fotografii care se încarcă „până la 70% mai repede” după captură și transferuri AirDrop „până la 80% mai rapide”. Pe iPad, Apple menționează și transferuri către un drive extern USB „până la 5 ori mai rapide”, plus îmbunătățiri pentru multitasking. Compania precizează că aceste rezultate provin din teste interne, iar performanța poate varia în funcție de configurație și condiții de utilizare. În ansamblu, mesajul cheie pentru piață este că Apple împinge Apple Intelligence mai adânc în sistemele sale de operare, dar o face cu control strict al disponibilității (limbă, dispozitiv, regiune) și cu un model care anticipează plată pentru utilizare extinsă la funcțiile bazate pe procesare în cloud. [...]
Marile companii încep să limiteze folosirea modelelor avansate de IA din cauza incertitudinilor privind confidențialitatea datelor , iar efectul imediat este o mutare a proiectelor sensibile către soluții „închise” (in-house) sau infrastructuri izolate, mai scumpe, potrivit Tom's Hardware . Îngrijorarea centrală, conform publicației, este că datele proprietare ale clienților (inclusiv proprietatea intelectuală) ar putea ajunge, direct sau indirect, să fie folosite la antrenarea modelelor sau să fie expuse prin colectarea de informații despre utilizare. Pe acest fond, unele organizații cer garanții contractuale mai stricte sau impun intern restricții privind ce modele pot folosi angajații și pentru ce tip de sarcini. Ce a declanșat tensiunile: schimbarea de politică la Anthropic Problema este legată de o modificare din iunie, când Anthropic și-a schimbat politicile pentru modelul său „flagship” Fable, astfel încât compania poate păstra datele clienților. Anthropic susține că păstrarea datelor are rolul de a preveni utilizarea abuzivă a modelului, însă unele companii se tem că în acest proces ar putea fi „aspirate” și date de business sensibile. În paralel, atât OpenAI, cât și Anthropic indică faptul că, în cazul clienților cu anumite contracte enterprise, nu își antrenează modelele pe informațiile furnizate de aceștia „în mod implicit”. Totuși, articolul notează că ambele companii colectează metadate de la clienți corporativi (adică date despre felul în care este folosit serviciul), iar detaliile despre conținutul exact al acestor metadate sunt greu de obținut. Metadatele și „chain-of-thought”, puncte sensibile pentru clienți Un exemplu din material este operatorul telecom C Spire, care are acorduri cu OpenAI și Anthropic ce interzic folosirea datelor sale pentru antrenarea modelelor. În același timp, contractele permit colectarea de date tehnice de utilizare. C Spire consideră că acestea ar include informații despre aplicațiile la care sunt conectate modelele și date de utilizare și își exprimă temerea că furnizorii ar putea colecta informații despre ce se întâmplă „între” generarea răspunsurilor. OpenAI afirmă că nu folosește datele de tip „chain-of-thought” (raționamentul intermediar al modelului) pentru antrenare, însă C Spire spune că are nevoie de mai multă claritate despre ce se colectează și acuză lipsa unor explicații suficient de precise. Răspuns operațional: infrastructură izolată și platforme „private”, dar costisitoare În fața acestor riscuri percepute, unele companii aleg să ruleze modele open-source pe servere proprii izolate („air-gapped”, adică separate de internet și de rețele externe). Tom’s Hardware menționează că Northrop Grumman a adoptat deja această abordare, preferând să nu se bazeze pe furnizori precum OpenAI și Anthropic pentru cazuri sensibile. În același timp, Microsoft încearcă să capitalizeze aceste temeri, promovând medii cloud izolate în care modelele rulează pe servere private și nu trimit date către companii externe de IA. Publicația subliniază însă că această variantă este costisitoare și că cel puțin un client încă o evaluează. Impact comercial: proiecte amânate sau anulate și migrare către soluții interne Materialul indică un cost comercial deja vizibil: o mare companie de utilități din SUA și-a anulat planurile de a testa Fable pentru a vedea dacă poate rula infrastructura sa energetică de bază, după ce Anthropic ar fi refuzat să accepte o politică de „zero data retention” (ZDR) irevocabilă, adică fără păstrarea datelor. În același registru, Nvidia ar fi decis să folosească Fable doar pentru sarcini care nu implică acces la date sensibile, invocând lipsa garanțiilor ZDR. Pentru activitățile considerate prea sensibile, compania folosește o soluție internă de IA. Tom’s Hardware precizează că a cerut un punct de vedere Nvidia, dar nu a primit răspuns până la publicare. Pentru piață, semnalul este că „încrederea” și condițiile de retenție a datelor devin criterii operaționale și contractuale care pot decide dacă un model este adoptat la scară sau rămâne limitat la utilizări cu risc redus. [...]
