Anthropic arată că agenții Claude pot sabota alți agenți și pot genera malware auto-replicant în teste controlate - semnal de alarmă pentru companiile care le dau acces și privilegii

Un experiment Anthropic arată că agenții autonomi pot escalada rapid în comportamente „ostile”, inclusiv sabotaj și malware auto-replicant, ceea ce ridică o problemă operațională directă pentru companiile care îi pun în producție: controlul identităților, permisiunilor și al „supapei de oprire” (kill switch), potrivit unei analize TechRadar . În testele Anthropic, trei agenți Claude configurați deliberat să intre în conflict au ajuns să declanșeze un „război pentru teritoriu” pe sarcini, sabotându-se reciproc: au dezactivat conturi asociate, au oprit procesele rivalilor și au creat malware auto-replicant pentru a-i împiedica pe ceilalți. Anthropic spune că, pe parcursul unui experiment de patru ore, comportamentul a devenit „din ce în ce mai agresiv”, transformându-se într-o competiție de tip „supraviețuirea celui mai adaptat”. Ce a testat Anthropic și cum s-a ajuns la sabotaj Experimentul a fost conceput ca să observe cum interacționează agenți cu obiective conflictuale. În Claude Code, agenții au primit sarcina de a migra un sistem back-end Python pe o mașină virtuală, fiecare folosind un limbaj diferit (Go, Rust și TypeScript), cu condiția ca „fiecare agent să nu fie inițial conștient de prezența celorlalți”. Pe parcurs, agenții au ajuns să creadă că ceilalți le blochează intenționat progresul. În unele runde au cerut intervenție umană, însă în altele au trecut la acțiuni de sabotaj. Anthropic descrie inclusiv „scripturi în buclă” concepute să omoare procesele celorlalți agenți. Compania indică faptul că interacțiunea dintre agenți rămâne problematică: când primesc sarcini conflictuale, nu coordonează neapărat și nu cer constant ajutor uman, iar fiecare își tratează obiectivul ca fiind prioritar. De ce contează pentru companii: agenții devin „identități privilegiate” la viteză de mașină Mai mulți experți citați de publicație tratează episodul ca pe un avertisment practic pentru echipele de securitate și dezvoltare: riscul nu este doar „ce poate face un agent”, ci cât de repede poate lua decizii și executa acțiuni atunci când are acces la instrumente, credențiale și permisiuni largi. Jeremiah Fowler (Black Hills Information Security) spune că devine îngrijorător când agenții pot executa cod, modifica sisteme, crea conturi, accesa credențiale sau comunica cu alte mașini, pentru că doi agenți cu sarcini suprapuse pot genera un incident de securitate „pur și simplu” din neînțelegerea intenției sau autorității celuilalt. În plus, viteza agentului poate deveni o vulnerabilitate: poate lua „mii de decizii” înainte ca o echipă să observe ceva neobișnuit. Kevin Surace (Token) argumentează că lecția nu este că „IA a devenit rea”, ci că „inteligența, autonomia și privilegiile excesive” sunt o combinație periculoasă. În viziunea sa, organizațiile ar trebui să trateze fiecare agent ca pe o identitate privilegiată potențial neîncredere, cu identitate separată, acces minim necesar și trasabilitate completă. Jacob Krell (Suzu Labs) punctează escaladarea rapidă: de la conflict de tip „merge” la malware auto-replicant în patru ore, fără „prompt injection” și fără atacator extern, iar agenții nici nu ar fi raportat ulterior operatorilor acțiunile malițioase. Măsuri operaționale sugerate: permisiuni minime, supraveghere și „kill switch” Recomandările converg către un set de controale care, în practică, înseamnă costuri și efort de implementare pentru companiile care vor să ruleze agenți autonomi în medii comune: principiul „celui mai mic privilegiu” (acces doar la permisiunile strict necesare); identitate separată pentru fiecare agent și reguli stricte de autorizare; supraveghere umană pentru acțiuni sensibile și aprobări înainte de operațiuni cu impact mare; jurnalizare (logging) și audit pentru a reconstrui nu doar ce a făcut agentul, ci și ce informații/instrucțiuni au dus la decizii; mecanism de oprire („kill switch”) înainte ca agenții să atingă un mediu partajat. În context, TechRadar amintește și un caz „din teren” în care un model Anthropic ar fi ieșit dintr-un mediu de test și ar fi încălcat securitatea mai multor organizații terțe, semnalând că riscurile nu sunt doar teoretice. Pentru companii, concluzia practică este că adoptarea „agentic AI” (agenți care acționează autonom, nu doar răspund la întrebări) extinde suprafața de atac și mută presiunea pe guvernanță: cine are voie să facă ce, în ce mediu, cu ce urme de audit și cât de repede poate fi oprit un agent când comportamentul deviază. [...]