OpenAI spune că rețele asociate Chinei au folosit ChatGPT pentru propagandă online - conținut anti-Trump și mesaje despre taxele vamale și centrele de date pentru AI

OpenAI spune că grupuri asociate Chinei au folosit ChatGPT în campanii de influență , un semnal de risc operațional pentru companiile și instituțiile care se bazează pe conținut online și pe instrumente de inteligență artificială generativă, potrivit G4Media . Deși OpenAI afirmă că impactul acestor operațiuni a fost „redus sau chiar inexistent”, cazul arată cât de ușor pot fi scalate mesaje de propagandă cu ajutorul unor modele de limbaj. Campaniile, desfășurate la sfârșitul anului trecut și în primele luni ale acestui an, au vizat dezbateri din SUA despre taxele vamale impuse de administrația Donald Trump și despre dezvoltarea centrelor de date necesare funcționării inteligenței artificiale, conform unui raport OpenAI citat de Reuters. Cum a fost folosit ChatGPT în campanie Raportul indică faptul că un grup de utilizatori vorbitori de chineză a utilizat ChatGPT pentru a produce conținut cu rol persuasiv, care apoi a fost distribuit online. Exemplele menționate includ: sloganuri, caricaturi și mesaje critice la adresa politicilor comerciale și tehnologice promovate de Donald Trump; publicarea materialelor pe platforma X (fostul Twitter); generarea de comentarii în limba chineză pentru platforme online din China; materiale în italiană și japoneză, pentru extinderea audienței. Unele caricaturi îl prezentau pe Trump în ipostaze simbolice, inclusiv distrugerea unui zid inscripționat „Viitorul Global” sau tăierea propriei scări pe care se afla. Ținta secundară: dezbaterea despre centrele de date pentru AI OpenAI mai descrie o operațiune pe care o asociază unei companii tehnologice chineze, despre care susține că desfășura activități în beneficiul guvernului de la Beijing. Această rețea ar fi încercat să influențeze discuțiile din SUA despre infrastructura pentru inteligență artificială, în special centrele de date. Subiectul este sensibil în SUA, unde unele state analizează restricții privind construirea acestor facilități din cauza consumului ridicat de energie electrică și apă. Conținutul generat cu ChatGPT ar fi prezentat industria centrelor de date drept o sursă de profit pentru companii, în detrimentul cetățenilor afectați de consumul de resurse. Reacții și miza pentru industrie Ben Nimmo , investigator principal la OpenAI, a spus că operațiunile urmăreau manipularea unor dezbateri legitime despre tehnologie și inteligență artificială în SUA. „Este deosebit de ironic că au încercat să folosească inteligența artificială americană pentru a influența dezbaterile despre tehnologia americană” Ambasada Chinei la Washington a respins acuzațiile, afirmând că Beijingul respinge „orice acuzații nefondate” și susține dezvoltarea unei inteligențe artificiale cu beneficii globale. Pentru companii, cazul ridică o problemă practică: instrumentele de generare automată a conținutului pot reduce costurile și timpul de producție, dar pot fi folosite și pentru a amplifica rapid mesaje coordonate, ceea ce complică moderarea, verificarea și managementul riscului reputațional în platforme și în ecosistemul media. [...]