CISA, NSA și FBI acuză șase companii chineze că au extras „miliarde de tokeni” din modele AI americane - avertisment privind atacuri de distilare la scară industrială prin API-uri

Agențiile americane de securitate cibernetică acuză șase companii chineze că au „distilat” la scară industrială modele AI de vârf din SUA, reducând masiv costurile și timpul de dezvoltare – o practică ce poate schimba rapid raportul de forțe în piața globală de inteligență artificială, potrivit Bleeping Computer . Într-un avertisment comun, CISA, NSA și FBI spun că DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun și Z.AI ar fi extras „miliarde de tokenuri” prin „milioane de cereri” către modele AI americane, începând cel puțin de la finalul lui 2024. Țintele menționate includ modele de la Anthropic, OpenAI, Google și xAI. Agențiile americane evaluează că amploarea și sofisticarea operațiunilor indică faptul că autoritățile chineze ar fi fost cel puțin la curent cu această abordare, descrisă ca probabil „o strategie de dezvoltare de bază” pentru firmele implicate. De ce contează: distilarea poate tăia drastic costurile de antrenare „Distilarea” modelelor AI este, în mod normal, o tehnică legitimă: un model „elev” învață din răspunsurile unui model performant, ceea ce poate reduce costurile de antrenare și accelera implementarea. Problema, potrivit avertismentului, apare când distilarea se face în afara mediilor controlate ale companiilor, prin abuz de acces la API (interfețe prin care aplicațiile pot interoga modelul), pentru a „extrage” logică și cunoștințe și a concura ulterior cu investiții mult mai mici. Publicația amintește și avertismentul Google din februarie , potrivit căruia atacatorii pot folosi astfel de metode pe tot lanțul unui atac cibernetic, de la recunoaștere la exploatare și evitare a detecției. Cum ar fi ocolite controalele: conturi frauduloase, proxy-uri și „failover” automat Conform recomandării CISA, companiile ar distribui cererile API prin conturi frauduloase sau partajate, servicii cloud, agregatoare și proxy-uri de tip „transfer station”, pentru a ocoli restricții geografice, limite de utilizare și mecanisme de detecție. Avertismentul descrie și tactici avansate, inclusiv încercări de a expune raționamente „chain-of-thought” (pașii intermediari ai raționamentului), comutare automată între furnizori când apar blocări și evaluări de calitate pentru a detecta contramăsuri defensive. „Tacticile avansate de distilare la scară industrială includ extragerea raționamentului chain-of-thought (CoT), failover automat între căi în timpul încercărilor de blocare și cadre sofisticate de evaluare a calității pentru a detecta contramăsuri defensive”, se arată în avertisment. Cine ar fi vizat ce modele, potrivit agențiilor Agențiile indică drept „principalii” actori DeepSeek și Moonshot AI, acuzați că ar fi distilat mai multe modele Claude, GPT, Gemini și Grok. MiniMax ar fi vizat Claude, Gemini și GPT. Alibaba și StepFun sunt acuzate că ar fi țintit Claude și GPT pentru îmbunătățirea produselor, iar Z.AI ar fi vizat GPT-5.5 și Claude Opus 4.8. Ce recomandă autoritățile pentru companiile AI Avertismentul (link în sursă) recomandă măsuri de detecție la nivel comportamental și de infrastructură, modificarea răspunsurilor când sunt suspectate operațiuni de distilare și schimb de informații între părțile relevante. Printre indicatorii menționați: conturi noi care ating imediat limita maximă de utilizare; activitate continuă, fără pauze tipice utilizatorilor umani; conturi partajate accesate din multe adrese IP sau „user agents”; prompturi identice rulate pe mai mulți furnizori; raport neobișnuit între abonamente și utilizare; comutare coordonată între rute de acces. Bleeping Computer notează că a contactat cele șase companii chineze pentru un punct de vedere și va actualiza materialul dacă primește răspunsuri. [...]