Modelele de inteligență artificială cu potențial ofensiv în securitate vor deveni rapid „bun comun”, iar reglementarea punctuală riscă să rămână în urmă, pe măsură ce competiția dintre companii și scăderea costurilor împing capabilitățile avansate către o disponibilitate mai largă, potrivit unei analize din Ars Technica.

Mesajul central al experților citați este că discuția despre un singur model „periculos” ratează problema: trendul tehnologic face probabil ca astfel de capabilități să apară oricum, inclusiv prin modele mai mici, mai ieftine și, în unele cazuri, cu cod deschis. În acest context, întrebarea de politică publică devine dacă restricțiile țintite reduc efectiv riscul sau doar încetinesc actorii care încearcă să întărească apărarea.

De ce „interdicțiile pe model” nu rezolvă problema

Tarah Wheeler, chief security officer la firma de consultanță TPO Group, spune că este „miop” să se creadă că doar Anthropic va dezvolta capabilități similare cu Mythos sau că alți competitori nu le au deja și nu le țin „în rezervă”, în funcție de cum arată mediul de reglementare.

În același sens, Anthropic a transmis, după lansarea Mythos Preview, că discuția nu ar trebui să fie despre companie sau despre un singur produs, ci despre pregătirea pentru o lume în care aceste capabilități vor fi larg disponibile într-un orizont de „6, 12, 24 de luni”, potrivit unei declarații a lui Logan Graham, liderul echipei de „frontier red team” (testare adversarială a modelelor pentru a identifica abuzuri și vulnerabilități) citată de WIRED.

Presiunea competitivă: și alți jucători împing în aceeași direcție

Analiza notează că OpenAI a făcut, la mijlocul lunii aprilie, o lansare privată a unui model orientat spre securitate cibernetică și a anunțat o strategie extinsă pe această zonă. (În material este indicat și un articol WIRED despre acest subiect: WIRED.)

În paralel, cercetători atrag atenția că și modelele existente pot fi folosite pentru activități avansate de căutare a vulnerabilităților și dezvoltare de exploit-uri, dacă sunt „înhămate” (harness) și rafinate corespunzător.

Miza pentru guverne: planuri mai largi, nu reacții la un singur produs

Bruce Schneier (Harvard University și University of Toronto) argumentează că nu este vorba despre „un model”, ci despre direcția generală a tehnologiei: modele mai mici și mai ieftine, inclusiv cu cod deschis, pot ajunge să egaleze performanța Mythos/Fable prin tehnici mai sofisticate de interogare (prompting). El estimează că alte modele ar putea egala „creativitatea și tenacitatea” Mythos/Fable în câteva luni, iar cele cu cod deschis ceva mai târziu.

Pe fond, experții citați susțin că administrația de la Washington și guvernele ar trebui să se concentreze pe planuri mai ample și mai transparente, dezvoltate democratic, pentru a gestiona avansul capabilităților AI în securitate cibernetică și alte domenii sensibile.

Chris Wysopal, cofondator al companiei de securitate în cloud Veracode, formulează dilema de reglementare astfel:

„Întrebarea de politică nu este dacă o tehnologie are risc. Întrebarea este dacă o restricție specifică reduce semnificativ acel risc sau dacă, în principal, încetinește oamenii care încearcă să facă sistemele mai sigure.”

În același context, un grup mare de lideri din securitate cibernetică a transmis administrației SUA, printr-o scrisoare deschisă, că o directivă a Casei Albe privind controlul exporturilor ar fi greșit orientată (scrisoarea este menționată în material: freefable.org).

Notă: materialul precizează că povestea a apărut inițial la WIRED, inclusiv într-o versiune separată: WIRED.