Anthropic ar urma să ofere ENISA acces la modelul AI Mythos - testare înainte de lansarea la scară largă, pe fondul riscurilor de securitate

Anthropic ar urma să permită ENISA să testeze modelul Mythos înainte de lansarea la scară largă , într-o mișcare care poate seta un precedent de „audit” instituțional pentru modelele de inteligență artificială cu potențial ofensiv în securitate cibernetică, potrivit IT Home , care citează Bloomberg. Informația vizează includerea Agenției Uniunii Europene pentru Securitate Cibernetică (ENISA) în programul „Project Glasswing”, prin care instituții considerate „critice” ar primi acces la Mythos pentru testare înainte ca modelul să fie disponibil pe scară largă. Subiectul este urmărit îndeaproape deoarece, potrivit sursei, există îngrijorări în rândul unor oficiali că sistemul ar putea fi folosit de actori rău intenționați ca instrument pentru exploatarea vulnerabilităților. De ce contează: un model de acces controlat pentru IA cu risc de abuz Anthropic ar fi ales o deschidere graduală a accesului la Mythos, tocmai din cauza capacității modelului de a identifica vulnerabilități de securitate cibernetică, pe care compania o descrisese anterior ca fiind neobișnuit de puternică și, implicit, cu risc ridicat. În această logică, testarea de către guverne și companii ar avea rolul de a evalua mai întâi: securitatea propriilor sisteme; rezistența la atacuri (capacitatea de a face față tentativelor de compromitere). Dacă această abordare se confirmă, ea indică o direcție operațională relevantă pentru piață: accesul la modele avansate cu utilizări duale (defensive și ofensive) poate deveni condiționat de evaluări și programe de testare, nu doar de disponibilitate comercială. Ce știm despre calendar și discuțiile cu UE Potrivit informațiilor citate, Anthropic ar fi informat Comisia Europeană despre decizie în weekendul trecut. Discuțiile nu ar fi publice, iar persoanele citate de Bloomberg au cerut anonimat. De la lansarea Mythos la finalul lunii aprilie, oficiali din UE și din state europene ar fi încercat să obțină acces la model. Sursa mai arată că, săptămâna trecută, oficiali ai Comisiei Europene au mers la San Francisco pentru discuții cu conducerea Anthropic, în încercarea de a obține drept de utilizare. Reacții: Comisia Europeană avertizează că vor urma modele și mai puternice Purtătorul de cuvânt al Comisiei Europene, Thomas Regnier, a declarat că Mythos nu este un caz singular și că vor apărea modele mai puternice, iar UE discută cu parteneri „cu viziuni similare”, inclusiv SUA, pentru a aborda provocările. Regnier nu a oferit detalii despre momentul în care ENISA ar putea primi acces, iar Anthropic nu a comentat, conform sursei. [...]