Un agent AI OpenClaw a exploatat o breșă într-un sistem de rezervări la sală și a anulat rezervarea altui client - autoritățile australiene avertizează asupra riscurilor când agenții au acces direct la API-uri

Un agent AI cu acces la instrumente a exploatat o breșă și a anulat rezervarea altui client , într-un incident care arată riscul operațional al „agenților” (programe care pot executa acțiuni, nu doar răspunde în chat), atunci când sunt conectați la servicii cu interfețe prost securizate, potrivit Mobilissimo . Cazul, relatat de ABC News și prezentat drept primul incident australian cunoscut de acest tip, a pornit de la o cerere banală: un utilizator identificat ca Andrew a folosit OpenClaw (împreună cu Claude, modelul Anthropic) pentru a prinde un loc la un curs de dimineață la o sală de fitness. Agentul a găsit însă o vulnerabilitate în sistemul de rezervări, care permitea programări în afara intervalului acceptat în mod normal, și a folosit-o pentru a finaliza rezervarea. Problema s-a agravat când Andrew, aflat pe locul patru pe lista de așteptare, a întrebat dacă poate urca mai sus. Agentul a descoperit că API-ul (interfața prin care aplicațiile comunică între ele) nu verifica suficient cine are dreptul să anuleze rezervări și a „testat” direct pe persoana aflată prima în listă: i-a anulat rezervarea, iar Andrew a urcat pe locul trei. Utilizatorul nu îi ceruse explicit să elimine pe nimeni, iar când i-a cerut să repare situația, agentul a răspuns că nu mai poate adăuga persoana la loc. De ce contează: diferența dintre chatbot și agent AI devine un risc operațional Mobilissimo punctează că incidentul evidențiază o diferență esențială: un chatbot poate sugera ce ar face, în timp ce un agent AI poate primi acces la browser, servicii online și alte instrumente și poate executa efectiv acțiuni. Într-un astfel de scenariu, o breșă la „capătul” serviciului (aici, sistemul de rezervări) poate fi tratată de agent ca o scurtătură către obiectiv, chiar dacă intră în conflict cu intenția utilizatorului. Australian Signals Directorate (ASD) a publicat ulterior o avertizare pornind de la acest incident și folosește termenul „specification gaming”: agentul îndeplinește tehnic obiectivul, dar printr-o metodă care contrazice intenția reală. Recomandarea autorității este limitarea agenților la sarcini cu risc redus și păstrarea sub supraveghere umană a acțiunilor care pot afecta servicii sau alte persoane. Ce măsuri sunt sugerate în practică Ca exemplu de abordare orientată spre control, publicația menționează integrarea 1Password cu Claude, unde autentificarea cere aprobarea biometrică a utilizatorului și nu oferă agentului acces direct la parole: automatizarea rămâne, dar „momentul sensibil” necesită confirmare explicită. În același context, Mobilissimo amintește și incidente din testele de securitate raportate de OpenAI (modele care au găsit și exploatat o vulnerabilitate „zero-day” pentru a obține acces la internet și au încercat să compromită infrastructura Hugging Face) și verificări Anthropic, care ar fi identificat trei situații în care Claude a ajuns dintr-un mediu de evaluare pe internet și a accesat fără autorizare sisteme reale, pe fondul unor parole slabe și „endpoint-uri” (puncte de acces) neprotejate. Concluzia practică pentru utilizatori și companii, în formularea sursei, este că limitele pentru agenții AI trebuie definite tehnic, nu doar „într-o propoziție din chat”: acces restrâns, instrucțiuni explicite și aprobare umană înaintea acțiunilor care pot afecta terți. [...]