OpenAI sprijină crearea Appia Foundation pentru standarde comune de evaluare a AI avansate - specificații deschise pentru verificări terțe și interoperabilitate între jurisdicții

OpenAI mizează pe standarde comune pentru evaluarea și guvernanța IA avansate , într-un demers care vizează reducerea riscurilor de siguranță și securitate prin criterii de testare comparabile între organizații și jurisdicții, potrivit OpenAI . Ideea centrală: pe măsură ce modelele devin mai capabile, guvernele și piața au nevoie de instituții și practici verificabile care să poată „traduce” standardele în evaluări aplicabile pe întreg lanțul de valoare. OpenAI spune că a contribuit la înființarea Appia Foundation , găzduită de Linux Foundation , care ar urma să dezvolte specificații deschise și modulare. Acestea sunt prezentate ca un mecanism practic de transformare a standardelor internaționale și a cadrelor existente în criterii de evaluare utilizabile, inclusiv pentru situațiile în care modele, infrastructură și aplicații sunt dezvoltate de organizații diferite. De ce contează: „stratul de încredere” pentru evaluări terțe Miza operațională și de reglementare este crearea unui „strat de încredere” prin care terți pot verifica conformitatea cu standarde, producând dovezi mai clare și reutilizabile. În viziunea OpenAI, un astfel de cadru ar facilita: evaluări comparabile între companii și produse, nu doar teste izolate; recunoașterea reciprocă a rezultatelor între instituții naționale și internaționale; o „limbă tehnică” comună care să permită coordonare în caz de incidente. Conectarea la instituții și cooperare internațională Materialul plasează inițiativa în contextul unui „blueprint” anterior al companiei pentru guvernanța democratică a IA de frontieră, care propune, între altele, un cadru durabil în SUA și consolidarea Center for AI Standards and Innovation (CAISI). OpenAI argumentează că riscurile asociate sistemelor de frontieră sunt internaționale și că statele ar trebui să lucreze la cadre compatibile de siguranță, canale de încredere pentru schimbul de constatări și răspunsuri coordonate la incidente. Ce standardizează, concret, evaluările OpenAI face trimitere la un „playbook” pentru evaluări terțe de încredere, unde sunt enumerate tipurile de informații pe care evaluările pentru sisteme de frontieră ar trebui să le dezvăluie mai des, inclusiv: ce sistem a fost testat, accesul la instrumente și „harness”-ul de evaluare (configurația/procedura de testare), metodele folosite pentru a evidenția capabilități, resursele disponibile și verificările pentru validarea rezultatelor. Compania mai afirmă că a aplicat aceste principii în parteneriate de testare cu CAISI (SUA) și UK AISI (Marea Britanie), iar activitatea acestora privind evaluări de capabilități și măsuri împotriva utilizărilor abuzive în zona biologică ar fi dus la îmbunătățiri concrete ale sistemelor OpenAI. Cum se leagă de cadrele interne ale OpenAI Inițiativa este prezentată ca complementară infrastructurii de siguranță a companiei, inclusiv Preparedness Framework (cadru pentru definirea și operaționalizarea gestionării riscurilor majore) și Frontier Governance Framework (document public de guvernanță care include obligații de reglementare precum evaluarea riscurilor, raportarea modelelor, controale de securitate și răspuns la incidente). În acest tablou, Appia ar urmări „următoarea provocare”: interoperabilitatea practicilor între organizații, jurisdicții și pe lanțul de aprovizionare, astfel încât guverne, companii și evaluatori independenți să poată folosi metode tehnice deschise „peste granițe”. [...]