China folosește „distilarea” pe modele IA americane ca să-și accelereze aplicațiile militare, ocolind parțial costurile și constrângerile de calcul impuse de controalele SUA la export, potrivit unei analize citate de Digi24. Miza este una operațională: transferul rapid de capabilități din modele de vârf dezvoltate în SUA către sisteme mai mici, care pot rula local în rețele și echipamente militare chineze.

Informația provine dintr-o analiză Reuters asupra a peste 80 de lucrări academice și brevete chinezești, care descriu utilizarea rezultatelor unor modele dezvoltate de OpenAI și Anthropic pentru antrenarea unor sisteme naționale de inteligență artificială destinate apărării. Tehnica invocată este „distilarea modelelor”, adică folosirea ieșirilor (răspunsurilor) unui model puternic pentru a antrena un model mai mic și specializat, fără a reconstrui de la zero un sistem comparabil, cu cerințe mari de calcul.

De ce contează: o scurtătură tehnologică în ciuda restricțiilor SUA

Documentele analizate sugerează că instituții afiliate Armatei Populare de Eliberare și altor structuri militare tratează modelele americane ca sursă de cunoștințe tehnice și ca instrument de reducere a decalajului față de SUA. Potrivit Reuters, disputa nu vizează distilarea ca practică în sine (folosită pe scară largă în industrie), ci „extragerea neautorizată” de capabilități, cu potențiale implicații pentru controalele la export și pentru drepturile de proprietate intelectuală.

Subiectul a devenit sensibil în perspectiva discuțiilor SUA–China despre guvernanța și siguranța inteligenței artificiale. China respinge acuzațiile și susține că Washingtonul urmărește „hegemonism” în domeniu, afirmând totodată că firme americane ar fi recurs la practici similare.

Cum ar fi fost folosită distilarea: de la cod militar la drone și operațiuni maritime

Analiza Reuters, care include cercetări compilate de Fundația Jamestown și partajate cu agenția, indică utilizări care merg dincolo de zona civilă. Sunny Cheung, cercetător Jamestown, spune că unele lucrări arată încercări de a transfera nu doar răspunsuri, ci și „raționamentul” modelelor occidentale în sisteme mai mici, controlate local.

„A învăța un model răspunsul corect este un lucru, dar a-l învăța raționamentul din spatele răspunsului este mult mai dificil.”

Reuters menționează mai multe exemple din literatura verificată, inclusiv:

• un articol atribuit cercetătorilor din Unitatea 96941 a PLA (Beijing), care descrie folosirea GPT-3.5 pentru procesarea codului sursă militar sensibil și apoi antrenarea unui model național pe baza sintezelor, pentru a funcționa în rețele militare interne;
• un studiu al Universității Naționale de Tehnologie a Apărării (PLA) despre reducerea dimensiunii unui model de procesare a imaginilor pentru implementare pe vehicule aeriene fără pilot, astfel încât dronele să poată analiza video în timp real și să sprijine navigația și țintirea chiar și cu comunicații întrerupte;
• un studiu al Academiei Chineze de Științe Militare privind rularea unui model de recunoaștere a țintelor pe echipamente tactice în operațiuni maritime simulate cu drone, nave și submarine fără pilot.

Casa Albă, Pentagonul, Ministerul chinez de Externe, PLA și OpenAI nu au răspuns solicitărilor de comentarii, potrivit materialului.

Limite și riscuri: siguranța „se poate pierde”, performanța rămâne sub modelul-sursă

Anthropic a declarat că nu oferă acces comercial la Claude în China sau firmelor controlate de Beijing și că folosește sisteme de monitorizare pentru a detecta încălcări ale politicilor. Compania a avertizat, potrivit sursei, că modelele distilate pot pierde măsurile de siguranță ale sistemelor originale, ceea ce ar putea facilita transferul unor capabilități sensibile în afara controlului dezvoltatorului.

În paralel, cercetători militari chinezi analizează distilarea și ca risc de securitate: un articol din ianuarie, citat de Reuters, discută „distilarea fără date” (o formă de inginerie inversă fără acces direct la parametrii de bază) și propune mecanisme de apărare pentru a masca informații logice expuse în rezultatele publice ale unui model.

Totodată, distilarea nu ar echivala cu independența tehnologică totală. Trevor Koverko, cofondator al companiei Sapien, afirmă că modelele distilate rămân mai slabe decât modelele de referință și că procesul trebuie înțeles ca un transfer selectiv de capabilități într-un sistem mai ieftin, controlat local.