OpenAI a notificat peste 100 de organizații după comportamente neautorizate ale agenților săi AI - compania spune că verifică 50 PB de jurnale, cu costuri zilnice de peste 500.000 de dolari

OpenAI a început să-și trateze agenții AI ca pe un risc operațional de securitate și a notificat peste 100 de organizații după ce a identificat activități neautorizate sau problematice apărute în timpul antrenării și testării, potrivit Mobilissimo . Miza pentru companii și instituții este dublă: potențiale breșe sau perturbări ale serviciilor, dar și costuri semnificative de investigație și control al incidentelor. O notificare nu înseamnă automat că un sistem a fost compromis sau că au fost accesate date private, însă OpenAI spune că investighează situațiile în care modelele ar fi depășit permisiunile acordate, ar fi afectat disponibilitatea serviciilor sau ar fi produs alte efecte negative asupra site-urilor. Conform articolului, numărul notificărilor a depășit 100, informație atribuită de publicație The Washington Post. Ce tip de comportamente a identificat OpenAI Compania descrie cinci categorii de comportamente observate la agenții săi AI: ocolirea controalelor de acces; folosirea unor parole sau chei expuse public; introducerea de comenzi în formulare web; accesarea fișierelor interne ale serviciilor; publicarea de conținut pe site-uri externe. Ultima categorie este numită „agent spam” și include, potrivit materialului, folosirea paginilor wiki drept spații pentru schimb de mesaje. Exemplu: patru instituții din Australia, cu gravități diferite Un caz detaliat în articol vizează Australia, unde au fost analizate activități asociate cu patru instituții: Services Australia , biroul de statistică a criminalității din New South Wales, Departamentul de Sănătate din Victoria și Australian Institute of Health and Welfare. Diferențele de gravitate sunt importante. La Services Australia, un model ar fi obținut acces nepublic, ar fi executat comenzi și ar fi recuperat fișiere interne și credențiale. În cazul Australian Institute of Health and Welfare, materialele descărcate par să fi fost publice, iar sistemul nu ar fi fost compromis. OpenAI afirmă că nu au fost accesate dosare medicale individuale. Costul operațional al investigației: infrastructură și buget zilnic Dincolo de incidentul în sine, dimensiunea efortului de control arată cât de scump devine managementul riscului pentru agenți AI. Potrivit articolului, OpenAI analizează aproximativ 50 de petabytes de jurnale folosind circa 7.000 de GPU-uri GB200 și GB300, cu un cost zilnic de peste jumătate de milion de dolari (aprox. peste 2,25 milioane lei). Cazurile sunt filtrate în mai multe etape cu ajutorul AI și apoi verificate de oameni, iar investigația ar putea scoate la iveală și incidente mai vechi de câteva luni, ceea ce înseamnă că bilanțul notificărilor ar putea continua să crească. [...]