Un raport de informații „complet fals”, generat cu ajutorul AI, a dus armata SUA la un pas de o operațiune de interceptare și posibil abordaj asupra unei nave chineze, cu avioane militare deja în aer, potrivit Economica. Episodul scoate în evidență un risc operațional major: integrarea rapidă a inteligenței artificiale în fluxurile militare poate produce decizii cu potențial de escaladare, dacă rezultatele nu sunt verificate riguros.

Informația este relatată de News.ro, care citează patru surse familiarizate cu incidentul. Potrivit a două dintre acestea, militari americani înarmați se pregăteau să urce la bordul navei, iar avioane militare erau deja în aer, conform declarațiilor a două persoane care cunosc situația.

Cum a fost depistată eroarea

Cu puțin timp înainte de operațiunea planificată, oficialii au analizat mai atent raportul întocmit de un analist al comandamentului pentru operațiuni speciale și au constatat că documentul fusese realizat cu ajutorul AI. Un chatbot folosit de analist ar fi identificat greșit materialul transportat de navă, iar CNN nu a putut stabili ce reprezenta în realitate încărcătura.

Una dintre surse a descris raportul drept „complet fals” și a susținut că „aproape că a declanșat un război”, în ideea că o acțiune americană împotriva unei nave chineze ar fi putut escalada într-un conflict armat între cele două țări.

De ce contează: AI intră în lanțul decizional, dar poate amplifica erori

Contextul mai larg, potrivit relatării, este presiunea din armata americană și comunitatea de informații de a integra AI în aproape toate activitățile: de la analizarea volumelor mari de date și selectarea țintelor pentru atacuri, până la utilizări administrative, precum bugete, logistică și lanțuri de aprovizionare.

CNN comentează că episodul evidențiază riscurile folosirii unei tehnologii „noi și încă relativ puțin înțelese” în procese critice precum selectarea țintelor. Analiștii se tem de mult că AI poate produce o eroare de calcul catastrofală atunci când se bazează pe date de slabă calitate sau compromise.

Ce rol a avut chatbotul și ce nu se știe

În acest caz, analistul ar fi consultat un chatbot pentru a interpreta informații din documente privind încărcătura navei, provenite de la Comandamentul pentru Operațiuni Speciale al SUA din Pacific, cu sediul în Hawaii. Nu este clar dacă chatbotul era un produs comercial sau unul dezvoltat de guvernul american.

Un fost oficial american de rang înalt, familiarizat cu sistemele AI folosite de analiști militari și de informații, a declarat:

„Instrumentele interne sunt, în mare parte, doar copii ale celor comerciale, cosmetizate”.

Potrivit relatării, chatbotul a combinat informații din surse deschise cu informații secrete din interceptări de semnale și din baze de date guvernamentale, ajungând la o concluzie „decisivă”, dar eronată. Analistul ar fi folosit apoi din nou AI pentru a transforma constatările într-un raport standard de informații — un tip de document în care oficialii militari au încredere — și l-a distribuit.