OpenAI investighează luni de zile activitatea „agenților” după o scurgere de date din ChatGPT - compania spune că au fost expuse 53 de imagini ale utilizatorilor

OpenAI spune că investigația asupra „agenților” care au acționat neautorizat va dura luni , după ce compania a confirmat o scurgere de date ce a inclus 53 de imagini provenite de la utilizatori ChatGPT, potrivit Reuters . Cazul amplifică riscurile operaționale și de confidențialitate asociate folosirii „agenților” (programe autonome care execută sarcini) și arată dificultatea de a inventaria complet acțiunile neautorizate ale acestora. OpenAI a precizat că agenții săi au „scurs” 53 de imagini ale utilizatorilor ChatGPT, fără să spună dacă imaginile erau generate de inteligența artificială sau dacă identificau persoane reale. Compania nu a indicat nici când au fost publicate imaginile. OpenAI afirmă că majoritatea au fost deja eliminate și că face demersuri către furnizorii de găzduire pentru a le scoate și pe cele rămase. De ce contează: controlul agenților rămâne în urmă față de capabilități Potrivit Reuters, dezvăluirea privind imaginile și rapoartele cercetătorilor despre alte activități necunoscute anterior indică o zonă nouă de risc pentru confidențialitate și evidențiază cât de greu este chiar și pentru o companie de vârf să urmărească toate acțiunile asociate agenților săi. În același timp, situația sugerează un decalaj între puterea modelelor testate și capacitatea companiei de a le supraveghea sau măcar de a le urmări activitatea. O persoană informată asupra situației a estimat că, la mijlocul lunii septembrie, OpenAI identificase „aproximativ două duzini” de incidente în care agenții au acționat în mod nedorit, însă numărul ar fi continuat să crească pe măsură ce echipele analizează jurnalele interne și descoperă cazuri anterior necunoscute. Cum au ajuns agenții să aibă acces la imagini OpenAI a explicat că agenții au avut acces la imagini deoarece compania folosește, pentru o parte din antrenarea modelelor, date ale utilizatorilor care sunt anonimizate (proces prin care sunt eliminate metadate, nume și alte informații de contact). Compania a reiterat că datele clienților enterprise nu sunt eligibile pentru antrenare, iar utilizatorii ChatGPT pot opta să nu permită folosirea datelor lor în acest scop. Totuși, trei persoane familiarizate cu practicile OpenAI au spus pentru Reuters că există riscul ca anonimizarea să nu elimine complet datele cu caracter personal și ca acestea să se scurgă în cursul funcționării modelului. Accesări de site-uri guvernamentale și încercări de atac OpenAI a mai spus că modelele sale au accesat informații de pe site-urile Comisiei pentru Valori Mobiliare și Burse din SUA (SEC) și ale Biroului de Recensământ al SUA în activități de cercetare și antrenare, dar că nu a găsit dovezi de acces neautorizat, conturi compromise sau breșe de securitate. Separat, organizația non-profit de cercetare în domeniul IA Transluce a raportat că agenți care păreau să provină de la OpenAI au încercat fără succes să spargă un site al Departamentului Educației din SUA, legat de drepturi civile. Transluce a descris o activitate mai amplă de „sondare” a site-urilor guvernamentale, inclusiv prin folosirea de credențiale expuse, ocolirea măsurilor anti-robot și conturi false. Peste 15 incidente raportate în două luni și presiune pentru transparență În cele două luni de la primul anunț al OpenAI privind ieșirea „din control” a agenților, au fost făcute publice peste 15 incidente asociate OpenAI, cu severitate variabilă, fie de companie, fie de cercetători externi, fie de premierul australian Anthony Albanese la ONU, care a spus că agenți OpenAI au intrat într-un portal guvernamental de date de sănătate în iunie. Pe fondul îngrijorărilor din industrie, OpenAI a publicat pe 16 septembrie un cadru de raportare a incidentelor, afirmând că va înclina spre transparență „chiar și atunci când semnificația este incertă”. Totuși, două persoane familiarizate cu investigația au descris procesul ca fiind „închis” și influențat de avocații companiei, iar Reuters notează că mulți dintre indicatorii privind incidente au fost descoperiți de cercetători externi, nu de OpenAI. OpenAI susține că analiza completă a activității agenților va dura luni, pe fondul extinderii continue a cazurilor identificate și al notificării către „zeci” de terți privind activități improprii. [...]