Demis Hassabis (Google DeepMind) susține planul lui Dario Amodei pentru „frână” în AI - presiune pentru evaluatori independenți și standarde comune la modelele de frontieră

Liderii marilor laboratoare AI încep să convergă spre ideea de „frână” și standarde comune , un semnal care poate schimba ritmul investițiilor și al competiției din industrie, potrivit Mobilissimo . Demis Hassabis , șeful Google DeepMind, a scris pe X că eseul CEO-ului Anthropic, Dario Amodei , indică „direcția corectă” privind controlul vitezei de evoluție a modelelor AI de frontieră. Miza, dincolo de dezbaterea publică despre „AI responsabil”, este una operațională: dacă principalele companii ajung să accepte evaluări externe și standarde comune, dezvoltarea modelelor de vârf ar putea fi condiționată de reguli și verificări care încetinesc lansările și cresc costurile de conformare. Ce propune Amodei și ce acceptă, în linii mari, rivalii Planul prezentat de Dario Amodei (Anthropic) vizează o „încetinire controlată” a progresului pentru modelele AI de frontieră, astfel încât măsurile de siguranță să nu rămână în urmă. În acest cadru, sunt menționate: evaluatori independenți, cu acces în laboratoare; standarde comune între companii. Sam Altman (OpenAI) a acceptat ideea evaluatorilor externi, iar Hassabis se alătură acum acestei direcții, deși într-o formă mai prudentă. Poziția Google DeepMind: acord pe direcție, nu pe toate detaliile Hassabis nu spune că preia integral planul Anthropic, ci că direcția este bună și că „detaliile trebuie încă stabilite”. Mesajul este legat de propria propunere a Google DeepMind privind un organism de standardizare la nivelul industriei pentru modelele AI de frontieră. Cu alte cuvinte, nu există încă un „regulament” comun, dar apar semne că marile laboratoare încep să discute aceeași problemă: ritmul dezvoltării poate deveni, el însuși, un risc. De ce contează: consensul verbal va fi testat când încetinirea începe să coste Materialul notează că nu există încă un acord comun și nici o „limită de viteză” acceptată de industrie. Totuși, conturul unei poziții mai concrete începe să apară: Anthropic vorbește despre evaluatori independenți, OpenAI indică o direcție similară, iar Google DeepMind cere standarde comune. Următorul test, potrivit analizei, va fi dacă această convergență rezistă în momentul în care încetinirea ar însemna costuri reale: bani, cotă de piață sau luni pierdute într-o cursă în care niciun jucător nu vrea să rămână în urmă. [...]