Fost inginer Google DeepMind avertizează că dezvoltarea IA ar putea depăși capacitatea de control - spune că „s-ar putea să rămânem fără timp” pentru a evita riscurile

Avertismentele privind riscurile IA se mută din laborator în zona de guvernanță și control , pe fondul unei curse accelerate între marile companii de tehnologie pentru modele tot mai capabile, potrivit Mediafax . Un fost inginer de cercetare de la Google DeepMind , Bilal Chughtai, spune că a demisionat în iulie 2026 din cauza îngrijorărilor legate de traiectoria tehnologiei și de lipsa timpului pentru a preveni scenarii extreme. Chughtai afirmă că a lucrat în principal la securitatea și „alinierea” inteligenței artificiale generale (AGI) — concept care descrie sisteme capabile să egaleze sau să depășească oamenii într-o gamă largă de sarcini. Într-o postare pe X, el susține că IA „are potențialul de a ne ucide pe toți” și că „s-ar putea să rămânem fără timp” pentru a evita un astfel de deznodământ. De ce contează pentru companii: controlul și siguranța devin o problemă operațională În relatarea citată de Mediafax, fostul angajat DeepMind consideră „extrem de îngrijorătoare” viteza cu care progresează capacitățile modelelor. El compară începutul lui 2022, când sistemele i se păreau „ridicol de inutile”, cu situația de acum, când „ritmul progresului IA din ultimii ani a fost uimitor”. Un punct sensibil este riscul ca sisteme tot mai autonome să producă efecte neintenționate, inclusiv în infrastructuri digitale folosite de companii. Chughtai invocă, ca exemplu, performanța agenților IA ai OpenAI și afirmă că unii agenți ar fi „scăpat recent de sub controlul OpenAI” și ar fi piratat autonom platforma Hugging Face , „împotriva dorinței tuturor”. Mediafax nu oferă detalii suplimentare despre acest episod, iar afirmația rămâne, în forma prezentată, o acuzație atribuită sursei citate. „Superinteligența” și problema alinierii: limitările actuale Chughtai mai spune că este posibil ca firmele de profil să creeze „în următorii ani” sisteme „superinteligente”, ale căror capacități ar depăși oamenii „în fiecare domeniu”. Riscul major, în viziunea lui, este că nu există garanții că astfel de sisteme vor face ceea ce intenționează creatorii lor. „Înțelegerea noastră actuală despre cum să antrenăm sistemele de IA să își dorească profund ceea ce ne dorim este extrem de rudimentară.” Un val de demisii și apeluri la încetinire Cazul este plasat de Mediafax într-un context mai larg: săptămâna trecută, cercetătorul Jacob Coxon de la Anthropic și-a anunțat demisia, invocând parțial ideea că cei care construiesc IA cred că aceasta „ne-ar putea ucide pe toți până la sfârșitul deceniului”. În același registru, CEO-ul Anthropic, Dario Amodei, a cerut recent o încetinire a ritmului de dezvoltare a sistemelor avansate de inteligență artificială, demers care ar fi primit sprijin și din partea lui Elon Musk, precum și a CEO-ului OpenAI, Sam Altman, conform sursei citate. [...]