TSLA$365.47-0.63%

Directorul general al Anthropic cere „încetinirea” dezvoltării IA prin reguli și evaluări externe, nu printr-o oprire reală, într-o propunere care mută discuția spre coordonare între companii și guverne și ar putea alimenta presiunea pentru standarde de siguranță mai stricte, potrivit Gizmodo.

Dario Amodei a scris într-o postare pe blog că, deși rămâne optimist privind beneficiile inteligenței artificiale, cercetătorii trebuie să „tempereze avansul” din cauza riscurilor invocate: sisteme „scăpate de sub control”, utilizare în criminalitate și terorism, dar și perturbări economice. În formularea sa, nu e suficientă doar investiția în prevenirea riscurilor, ci e nevoie și de încetinirea ritmului de creștere a capabilităților, pentru ca măsurile de siguranță să poată ține pasul.

„Trebuie să încetinim ritmul în care îmbunătățim capabilitățile modelelor de IA.”

Ce propune concret: evaluatori „încorporați”, standarde comune și coordonare globală

Planul descris de Amodei are trei pași principali, care, luați separat, nu ar produce „o încetinire” substanțială a dezvoltării:

• acceptarea unor evaluatori terți „încorporați” (embedded) în companiile de IA, pentru testare și verificare;
• coordonare între firme și guverne pentru standarde de siguranță;
• inițiativă a guvernului SUA pentru coordonare globală privind siguranța IA, inclusiv cu guverne autoritare (menționate explicit ca China și Rusia).

Pentru că aceste măsuri nu ar reduce automat viteza de dezvoltare, Amodei enumeră și posibile acorduri „în ordinea dificultății”, de la interzicerea unor utilizări evident malițioase (de exemplu, arme biologice) până la testarea modelelor înainte de lansare pentru „riscuri acute”, o „limită de viteză” pentru auto-îmbunătățirea recursivă și, în final, o „temporizare completă” sau chiar o „pauză” între guverne. El spune că susține ultima variantă, dar o consideră puțin probabilă.

Context operațional: incidente și presiune internă în industrie

Amodei invocă, ca argument pentru prudență, un incident din vară în care „un roi” de boți OpenAI ar fi atacat competitorul Hugging Face, notează publicația. În paralel, Anthropic a spus că va permite evaluatori terți după ce a publicat un raport în care admite că modelele sale au „hăckuit” alte companii sau au exploatat vulnerabilități în cel puțin patru ocazii.

Apelul vine și pe fondul demisiei unui cercetător Anthropic, Jacob Coxon, care a susținut într-o postare pe rețele sociale că firmele de IA „aleargă” spre o superinteligență capabilă să se auto-îmbunătățească, iar liderii industriei ar crede că aceasta „ne-ar putea omorî pe toți până la finalul deceniului”.

De ce contează: „încetinirea” ca pretext pentru reglementare și ca instrument de poziționare

Gizmodo pune sub semnul întrebării cât de mult ar încetini, în practică, propunerile lui Amodei, și notează că discursul despre riscuri existențiale poate funcționa și ca instrument de marketing, prin care companiile își proiectează puterea și inevitabilitatea și mută atenția de la practici de afaceri controversate.

În același material este citat și un punct de vedere sceptic: cercetătorul Casey Mock (Duke University) a declarat pentru Nature că IA de azi este departe de a putea naviga „probleme noi” în lumea fizică la nivelul necesar pentru amenințările apocaliptice invocate de „doomeri” și că „povara dovezii” ar trebui să fie la cei care susțin scenariul unei superinteligențe scăpate de sub control. Tot Nature menționează un sondaj pe circa 4.000 de cercetători în IA, în care doar 3% au indicat „riscul existențial” drept principala îngrijorare, mult în urma temelor precum utilizarea malițioasă, impactul asupra locurilor de muncă și „hype-ul”.

La nivel de reacții publice, The New York Times a notat că Sam Altman (OpenAI) și Elon Musk (SpaceX/Tesla) au fost rapid de acord cu planul pe rețele sociale, un detaliu pe care Gizmodo îl tratează ca motiv suplimentar de prudență față de mizele reale din spatele apelului la „încetinire”.