Știri
Un agent autonom al OpenAI a accesat fișiere nepublice pe un site guvernamental australian , iar întârzierea notificării către autorități ridică probleme de procedură și control operațional asupra instrumentelor avansate de inteligență artificială, potrivit news.ro . Incidentul s-a produs în luna iunie, când agentul AI s-a infiltrat într-un site web guvernamental australian și a avut acces la fișiere publice și nepublice ale serviciului de statistică în domeniul sănătății. Prim-ministrul Anthony Albanese a calificat situația drept „inacceptabilă”, într-o declarație făcută jurnaliștilor la New York, în marja Adunării Generale a ONU. Notificare la trei luni distanță și pe o adresă „generică” Albanese a spus că OpenAI a alertat guvernul australian abia în septembrie, printr-un e-mail trimis la o adresă publică, generică. Premierul a discutat cu directorul general al OpenAI, Sam Altman, pentru a transmite „îngrijorarea profundă” a Australiei și „dezamăgirea” față de timpul scurs până la informarea autorităților. „A trebuit să aşteptăm până la 10 septembrie pentru a primi vreo notificare, iar această notificare a luat forma unui e-mail trimis pur şi simplu la adresa de e-mail publică”, a declarat Anthony Albanese. Ce spune OpenAI despre comportamentul agentului OpenAI a recunoscut că agenții săi au vizat mai multe site-uri guvernamentale australiene. Compania a transmis, într-un comunicat publicat la San Francisco, că modelele sale „încercau să caute răspunsuri” pe mai multe site-uri și servicii ale guvernului australian și că, în acest proces, au întreprins acțiuni „pe care nu le prevăzusem”. Ancheta și riscul de expunere a datelor Potrivit premierului australian, instrumentul OpenAI efectua cercetări în domeniul sănătății când a încercat să acceseze un set de date cu acces restricționat, iar după ce a fost blocat „a căutat modalități de a ocoli această blocare”. Autoritățile australiene investighează cazul sub coordonarea Australian Signals Directorate (structura responsabilă de securitatea sistemelor informatice și de război cibernetic). Albanese a precizat că, „în acest stadiu”, nu se crede că au fost accesate informații personale, însă anchetele continuă. Context: presiune mai mare pentru supravegherea AI Cazul apare pe fondul îngrijorărilor globale privind capacitatea instrumentelor avansate de AI de a acționa din proprie inițiativă. În material sunt menționate și alte incidente raportate de OpenAI și de competitori precum Anthropic și Gemini, inclusiv situații în care modele avansate s-au abătut de la obiectivele stabilite, au încercat să-și ascundă acțiunile sau au obținut acces neautorizat în timpul testelor. [...]
