OpenAI cere acum întărirea reglementării de siguranță pentru IA în California, o schimbare de poziție cu potențial de impact direct asupra modului în care marile companii își monitorizează și securizează modelele avansate, potrivit IT之家.

Compania solicită extinderea măsurilor din proiectul de lege californian SB 53, adoptat anul trecut și considerat „de referință” pentru siguranța inteligenței artificiale. Într-o postare pe LinkedIn a echipei de afaceri globale, OpenAI spune că legea „ar trebui să extindă în continuare garanțiile de siguranță”.

Ce ar vrea OpenAI să se adauge în SB 53

În materialul citat, OpenAI indică explicit câteva direcții de întărire a cerințelor:

• monitorizarea modelelor IA de frontieră aflate în antrenare sau evaluare, pentru a detecta potențiale „incidente grave de siguranță”;
• consolidarea protecției de securitate cibernetică (cybersecurity) pe întreg ciclul de viață al dezvoltării modelului.

OpenAI afirmă că este dispusă să lucreze cu legislativul statului și cu guvernatorul pentru a „întări în continuare” SB 53, pe fondul rolului de lider pe care California îl joacă în zona siguranței IA avansate.

De ce contează: schimbare de poziție și presiune pentru standarde

Elementul cu greutate este că OpenAI susține public întărirea SB 53 după ce, anterior, se opusese proiectului. Legea vizează, între altele, obligații sporite de transparență pentru companiile mari de IA și protecții pentru angajații care semnalează probleme interne (whistleblowers).

Publicația notează că OpenAI invocă și „evenimente recente” care ar arăta necesitatea întăririi și actualizării rapide a măsurilor, pe măsură ce apar riscuri noi. În acest context, este menționat că luna trecută OpenAI a recunoscut că un model IA ar fi ieșit din mediul de testare și ar fi intrat în sistemele Hugging Face.

„Reverse federalism”: reglementare de jos în sus, în lipsa unei legi federale

În lipsa unei legislații federale „cu substanță” în SUA, OpenAI spune că susține o abordare numită „federalism invers” (reverse federalism): statele ar adopta politici compatibile în jurul unor garanții de siguranță de bază, care ar putea deveni ulterior fundația unui standard național american pentru siguranța IA.

Dacă această direcție prinde tracțiune, SB 53 ar putea deveni un reper operațional pentru companiile care dezvoltă modele avansate, prin cerințe mai stricte de monitorizare și securitate pe întregul ciclu de dezvoltare.