Știri
Știri din categoria Inteligență artificială
Administrația SUA spune că analizează măsuri de răspundere după ce a acuzat entități din China că desfășoară operațiuni „la scară industrială” pentru a copia sisteme avansate de inteligență artificială dezvoltate în Statele Unite, potrivit news.ro. Miza pentru companiile americane de profil este una operațională și de securitate: protejarea informațiilor proprietare și a mecanismelor de siguranță ale modelelor.
Acuzațiile au fost formulate de Michael Kratsios, principalul consilier pentru știință și tehnologie al președintelui, care a susținut că aceste operațiuni ar implica extragerea sistematică de informații și replicarea modelelor americane.
„Nu este nimic inovator în a copia în mod organizat inovațiile industriei americane.”
Oficialii americani afirmă că aceste campanii ar fi derulate în principal de entități cu baza în China și ar folosi zeci de mii de conturi proxy, precum și tehnici de ocolire a restricțiilor („jailbreaking”) pentru a accesa informații proprietare despre modelele de inteligență artificială.
În acest context este menționat și procesul numit „distilare”, adică antrenarea unor modele mai mici pe baza unor sisteme mai mari și mai performante. Deși practica poate avea utilizări legitime, autoritățile americane avertizează că folosirea neautorizată poate afecta securitatea și integritatea modelelor.
Kratsios a susținut că astfel de metode nu pot reproduce complet performanța sistemelor originale, însă pot permite dezvoltarea unor produse mai ieftine, care pot părea comparabile în anumite teste. În același timp, aceste modele ar putea elimina protocoale de siguranță sau mecanisme menite să asigure neutralitatea și acuratețea informațiilor.
Administrația americană intenționează să informeze companiile americane din domeniul inteligenței artificiale despre aceste practici, inclusiv despre tacticile și actorii implicați, și spune că explorează o gamă largă de măsuri pentru a contracara astfel de activități. În material nu sunt detaliate, deocamdată, ce măsuri concrete ar putea fi adoptate sau un calendar.
Recomandate
Andreea Esca spune că vede inteligența artificială mai degrabă ca „unealtă” și posibil „ajutor”, nu ca un înlocuitor direct al prezentatorilor TV , potrivit HotNews . Mesajul ei vine pe fondul extinderii utilizării AI în media și al discuțiilor despre impactul tehnologiei asupra locurilor de muncă. Esca a vorbit despre modul în care se raportează la AI într-un interviu acordat Paginademedia , unde a spus că o privește „ca pe o sursă de informare, ca pe o unealtă” și că, „dacă știi să o folosești, poate fi utilă”. (Interviul este citat de publicație.) „Ajutoare”, nu anxietate legată de înlocuire Întrebată despre cât de aproape este momentul în care AI ar putea prelua rolul prezentatorilor, Andreea Esca a declarat că nu își pune astfel de întrebări, invocând volumul mare de muncă și ideea că, la un moment dat, ar putea fi util să apară sprijin suplimentar. „Nu-mi pun genul acesta de întrebări. Am atât de multe lucruri de făcut încât, poate ar fi şi bine la un moment dat să mai apară nişte ajutoare.” Context: dezbatere globală și teste deja făcute în televiziune Subiectul înlocuirii jurnaliștilor de către AI este parte dintr-o dezbatere mai largă, în care marile companii de tehnologie au avertizat că noile modele de inteligență artificială pot aduce riscuri majore pe piața muncii , amintește publicația. În același timp, utilizarea AI în televiziune nu mai este doar teorie: CNN notează că primele experimente cu prezentatori generați cu AI au avut loc în China (2018) și Coreea de Sud (2020), iar ulterior au apărut și în Europa, inclusiv un test în Polonia cu prezentatori virtuali realizați integral cu AI. [...]
Aeroportul Otopeni introduce estimări în timp real pentru livrarea bagajelor , după ce Compania Națională Aeroporturi București a implementat prima etapă a unui sistem bazat pe inteligență artificială, potrivit HotNews . Schimbarea vizează direct experiența pasagerilor la sosire: aceștia vor vedea o estimare a intervalului în care bagajele de cală ajung la benzile de preluare. Proiectul se numește „Prediction of Luggage Delivery Time” și are ca obiectiv să anticipeze momentul în care bagajele vor fi livrate la benzi pentru fiecare cursă care aterizează pe Aeroportul Internațional Henri Coandă . Cum funcționează sistemul și ce date folosește Conform comunicatului CNAB citat de publicație, sistemul generează estimări pe baza mai multor tipuri de date operaționale, între care: numărul zborului; poziția aeronavei la sol; compania aeriană; operatorul de handling; istoricul timpilor de livrare; alocarea benzilor de bagaje. De ce contează: impact operațional și pentru pasageri CNAB se așteaptă ca utilizarea acestui sistem să ducă la optimizarea fluxurilor operaționale, creșterea punctualității și îmbunătățirea informațiilor oferite pasagerilor. În practică, miza imediată este reducerea incertitudinii din zona de sosiri, prin afișarea unei estimări privind momentul în care bagajele ajung la bandă. Publicația nu precizează calendarul etapelor următoare ale proiectului sau dacă sistemul va acoperi toate zborurile din prima fază. [...]
Anthropic își oprește „brusc” cele mai avansate modele pentru utilizatorii străini , după o directivă americană de control al exporturilor care cere suspendarea accesului la aceste sisteme, pe fond de securitate națională, potrivit Mediafax . Decizia mută centrul reglementării SUA dinspre hardware (cipuri) spre accesul la software-ul de inteligență artificială, cu efecte directe asupra companiilor care operează global. Ce impune ordinul și ce modele sunt vizate Anthropic spune că a primit o directivă prin care i se cere să suspende accesul la modelele Fable 5 și Mythos 5 pentru „toți cetățenii străini”. Compania afirmă că nu i-au fost furnizate detalii concrete privind motivele de securitate națională invocate, informație atribuită de Mediafax agenției Reuters. Motivul invocat: riscul de „ jailbreaking ” și vulnerabilități software Potrivit companiei, guvernul SUA ar considera că există o metodă de ocolire a măsurilor de protecție („jailbreaking” – tehnici prin care sunt depășite limitările impuse unui model) care ar putea permite folosirea Fable 5 pentru identificarea vulnerabilităților software. Anthropic susține că a primit doar „dovezi verbale” despre un „potențial jailbreak limitat, neuniversal” și contestă proporționalitatea măsurii. „Nu suntem de acord că descoperirea unui potențial jailbreak limitat ar trebui să constituie un motiv pentru retragerea unui model comercial implementat pentru sute de milioane de oameni”, a afirmat compania. De ce contează: escaladare a controlului exporturilor asupra IA „în sine” Măsura este prezentată ca o escaladare a eforturilor SUA de a limita capacitățile de inteligență artificială ale adversarilor străini. Spre deosebire de anii anteriori, când controalele la export s-au concentrat pe cipuri și instrumente necesare dezvoltării IA, ordinul vizează acum accesul la modelele de IA ca produs. În paralel, directiva apare într-un moment sensibil pentru companie: Mediafax notează că o dispută anterioară între oficiali ai administrației Trump și Anthropic părea să se atenueze, iar Anthropic „urmează să se listeze la bursă”. Tensiuni cu guvernul SUA și mesajul Pentagonului Relația dintre Anthropic și guvernul SUA s-a deteriorat în acest an, după ce compania a refuzat să permită armatei americane utilizarea modelelor sale pentru supraveghere internă și sisteme de arme complet autonome. Ca răspuns, guvernul ar fi inclus Anthropic pe o „listă neagră a lanțului de aprovizionare”, care ar urma să intre în vigoare mai târziu în cursul anului. Directorul de informații al Pentagonului, Kirsten Davies, a transmis pe X că Departamentul Apărării susține prioritizarea securității naționale. „Unele lucruri sunt pur și simplu mai importante decât ciclurile de venituri, clickbait-ul și evaluarea pre-IPO. America First. Întotdeauna”, a spus Davies. Context: compania cere reguli mai stricte, dar contestă aplicarea de acum Mediafax mai arată că, chiar miercuri, Anthropic solicitase o supraveghere mai strictă a IA în SUA, inclusiv posibilitatea de a bloca modelele care prezintă riscuri „inacceptabile”. Totuși, compania afirmă că măsura luată de guvern vineri nu ar respecta principiile unei reglementări „echitabile și bazate pe fapte”. În plan de piață, Anthropic a depus confidențial o cerere de listare la bursă în SUA luna trecută, „devansând rivalul OpenAI” în cursa către piețele publice, potrivit aceleiași surse. [...]
Folosirea inteligenței artificiale în mesaje politice provocatoare ridică riscuri de escaladare și dezinformare , după ce Dmitri Medvedev a distribuit un videoclip generat cu AI în care fotografii ale unor politicieni occidentali sunt introduse într-un tocător de documente, potrivit Mediafax . Clipul, publicat pe rețelele sociale, a atras atenția presei internaționale și este prezentat ca parte dintr-o serie de mesaje provocatoare lansate în ultimii ani de fostul președinte rus. De ce contează: AI ca instrument de propagandă și presiune politică Materialul se înscrie într-un tipar în care conținutul generat cu ajutorul inteligenței artificiale este folosit pentru a amplifica mesaje politice agresive, cu potențial de a alimenta tensiuni și de a distorsiona percepții publice. În acest caz, imaginile sunt utilizate într-un scenariu simbolic de „distrugere”, fără ca articolul să indice existența unor consecințe oficiale imediate. Context: poziționarea lui Medvedev în linia dură a Kremlinului Reuters , citată de Mediafax, notează că Medvedev a devenit în ultimii ani una dintre cele mai radicale voci ale Kremlinului, cunoscut pentru comentarii dure și provocatoare la adresa Occidentului, NATO și Ucrainei. Publicația mai arată că oficialul rus și-a construit reputația prin declarații agresive și prin mesaje publicate frecvent pe rețelele sociale. [...]
OpenAI a blocat mai multe conturi legate de China, acuzate că foloseau ChatGPT pentru campanii de propagandă menite să amplifice polarizarea în SUA , potrivit WinFuture . Miza operațională pentru piața de inteligență artificială este că furnizorii de modele lingvistice își înăspresc controalele și intervențiile atunci când instrumentele lor sunt folosite pentru influențarea dezbaterilor publice. Ce spune OpenAI că a identificat Compania afirmă că a descoperit două campanii distincte care ar fi folosit ChatGPT pentru a produce conținut destinat rețelelor sociale: postări, comentarii și caricaturi politice. Informațiile despre temele vizate au fost relatate de revista americană Axios , citată în material. Potrivit OpenAI, obiectivul nu a fost crearea unor controverse noi, ci exploatarea unor subiecte deja sensibile pentru a accentua diviziunile existente în societatea americană. Temele folosite: centre de date și tarife Prima campanie, denumită „Data Center Bandwagon”, s-a concentrat pe disputa privind extinderea centrelor de date pentru inteligență artificială. Mesajele promovau ideea că cererea tot mai mare de electricitate a acestor facilități ar crește costurile energiei pentru gospodăriile din SUA. OpenAI susține că utilizatori cu legături către un contractor al guvernului chinez ar fi generat inclusiv benzi desenate pe teme precum capacitatea rețelei și prețurile la energie, care au fost apoi distribuite pe X prin conturi „probabil neautentice”, alături de linkuri către articole reale de presă. A doua campanie, „Tech and Tariffs”, ar fi vizat politica tarifară a președintelui american Donald Trump și eforturile SUA de a-și consolida poziția de lider tehnologic la nivel global, tot prin conținut creat cu ajutorul ChatGPT. Impactul estimat: audiență redusă, dar semnal de risc Evaluarea OpenAI este că ambele operațiuni au avut o acoperire mică și au atras puțină atenție în rețelele sociale. Ben Nimmo, investigator-șef pe zona de securitate și investigații, a spus că astfel de operațiuni încearcă să influențeze dezbateri existente, nu să inventeze subiecte noi. În context, WinFuture notează că temele sunt deja controversate în SUA: există diviziuni privind extinderea centrelor de date, iar o majoritate a americanilor ar pune creșterea prețurilor pe seama tarifelor. Problema apare, potrivit concluziei citate, când o putere străină folosește aceste falii pentru a alimenta tensiuni. [...]
Anthropic a blocat accesul la cele mai noi modele AI pentru utilizatorii din afara SUA , după un ordin al guvernului american care impune suspendarea accesului pentru toți clienții non-americani, potrivit Politico . Compania a transmis vineri seară că efectul ordinului este oprirea „bruscă” a modelelor Fable 5 și Mythos 5 „pentru toți clienții”, pentru a se conforma cerințelor. Decizia are un impact operațional imediat pentru instituții și organizații din Europa, inclusiv pentru entități precum instituțiile UE, care au rămas fără acces și încearcă acum să găsească alternative. De ce a intervenit guvernul SUA Anthropic susține că autoritățile americane au impus controale de export (restricții privind furnizarea către exterior a unor tehnologii sensibile) din cauza temerilor că unele măsuri de siguranță integrate în modele ar putea fi ocolite prin „jailbreaking” (tehnici prin care utilizatorii forțează modelul să ignore restricțiile). Compania afirmă că, până acum, guvernul i-a oferit doar „dovezi verbale” privind un posibil „jailbreak” îngust, care nu ar fi universal. Anthropic spune că nu este de acord că identificarea unui astfel de risc limitat ar trebui să ducă la retragerea unui model comercial. Ce modele sunt afectate și ce știm despre ele Modelele vizate sunt: Fable 5 , lansat „doar săptămâna aceasta”, descris ca un „model de clasă Mythos”, dar echipat cu măsuri de protecție pentru utilizare generală; Mythos 5 , modelul mai puternic, pe care Anthropic îl ținuse inițial departe de un public mai larg din teama că ar putea exploata vulnerabilități software. La lansare, compania a avertizat că, fără protecții, capabilitățile lui Fable 5 în domenii precum securitatea cibernetică ar putea fi folosite abuziv și ar putea produce „daune serioase”. Efect în Europa: discuția despre „suveranitate” tehnologică se intensifică Suspendarea accesului a generat reacții în Europa și în Marea Britanie legate de nevoia de a reduce dependența de modelele AI americane. Ministrul britanic pentru AI, Kanishka Narayan, a declarat: „Pe măsură ce dezbatem viitorul securității naționale și al suveranității tehnologice, accesul la capabilități AI este crucial.” În paralel, Politico notează că, anterior, Anthropic oferise unui grup limitat de firme de tehnologie și securitate cibernetică acces la Mythos Preview prin proiectul Glasswing, pentru a sprijini apărarea cibernetică. Ce urmează Din informațiile disponibile, ordinul american produce o întrerupere imediată a accesului pentru utilizatorii non-SUA, fără un calendar public privind reluarea. Rămâne neclar dacă și în ce condiții Anthropic ar putea redeschide accesul în afara SUA, în funcție de cerințele autorităților americane și de evaluarea riscurilor de „jailbreaking”. [...]
