Geoffrey Hinton și Yoshua Bengio cer guvernelor să se pregătească pentru o „explozie a inteligenței” în AI - raportul propune transparență, audit independent și măsuri de limitare a dezvoltării

Un grup de cercetători și lideri din industria AI cere guvernelor reguli și mecanisme de control înainte ca automatizarea cercetării să accelereze brusc dezvoltarea inteligenței artificiale , potrivit Digi24 . Miza, susțin autorii, este riscul ca progresul să devină prea rapid pentru a mai fi gestionat prin instrumentele actuale de supraveghere și reglementare. Raportul este semnat, între alții, de Geoffrey Hinton (laureat al Premiului Nobel) și Yoshua Bengio, descriși drept „nașii” inteligenței artificiale moderne, și include autori din zona companiilor Anthropic și OpenAI. Materialul este relatat de The Guardian, conform articolului. Ce înseamnă „explozia inteligenței” și de ce devine o problemă de politici publice Autorii definesc „explozia inteligenței” ca o accelerare spectaculoasă a progresului în AI, determinată chiar de AI, care ar comprima progrese ce ar dura în mod normal ani în luni sau chiar mai puțin. Un punct central al îngrijorărilor este „autoperfecționarea recursivă” – ideea că sistemele AI ar putea ajunge să se îmbunătățească singure, reducând dependența de intervenția umană. În raport se afirmă că, odată ce sistemele AI ating un nivel comparabil cu cel al experților în cercetare și dezvoltare (R&D) în AI, un singur dezvoltator ar putea coordona o forță de muncă echivalentă cu „milioane” de cercetători umani de top. „O explozie a inteligenței ar putea fi cea mai importantă evoluție tehnologică din istoria umanității, comprimând ani de progres în luni sau chiar mai puțin, amenințând controlul uman asupra sistemelor de AI și erodând grav mecanismele de control al puterii în cadrul și între state, companii și ramuri ale guvernului”, se arată în document. Autorii avertizează că, odată declanșat un astfel de proces, „fereastra de oportunitate” pentru intervenție s-ar putea închide rapid. Ce măsuri cer autorii: transparență, limitarea ritmului și „planuri de urgență” Raportul recomandă guvernelor trei priorități de politică publică: solicitarea unor rapoarte transparente despre progresele din cercetarea și dezvoltarea AI, inclusiv prin integrarea unor auditori independenți în companii; identificarea unor modalități de a limita dezvoltarea accelerată a AI; pregătirea pentru adaptarea la o posibilă „explozie a inteligenței”. Într-o listă mai amplă de opțiuni, autorii includ și colaborarea cu centrele de date pentru a permite suspendarea unor proiecte de R&D, izolarea completă a sistemelor automatizate de R&D pentru a preveni „scăparea” de sub controlul uman și elaborarea unor „planuri de intervenție în situații de urgență” pentru scenarii diferite. Context din industrie: cât de mult folosesc deja companiile AI pentru a-și scrie propriul cod Textul notează că Anthropic afirmă că AI generează acum 80% din propriul cod, iar OpenAI folosește agenți AI autonomi în activități precum antrenarea de noi modele. Totodată, ambele companii au acceptat ca modelele lor să fie evaluate de evaluatori independenți, pe fondul avertismentelor că dezvoltarea AI se apropie de un punct critic din perspectiva siguranței. Riscuri și limite recunoscute în raport Autorii susțin că o dezvoltare extrem de rapidă ar putea aduce descoperiri medicale și progrese tehnologice, dar ar veni și cu riscuri, între care: apariția mai rapidă a amenințărilor biologice și cibernetice decât capacitatea de contracarare; pierderea controlului asupra sistemelor, pe măsură ce oamenii se implică mai puțin în R&D; folosirea unui avantaj modest în domenii precum spațiul cibernetic pentru a obține un avantaj decisiv între state. Raportul recunoaște însă că efectele sunt „incerte”. De exemplu, implementarea descoperirilor ar putea fi încetinită de constrângeri precum lanțurile de aprovizionare sau reglementările, iar AI ar putea accelera și măsurile de reducere a riscurilor. În plus, autorii estimează că proiecte de R&D care ar dura luni în cazul oamenilor ar putea fi complet automatizate de AI până în 2028, deși menționează că sporurile de productivitate nu ar fi atins încă pragul necesar pentru declanșarea unei „explozii a inteligenței”, chiar dacă sistemele mai noi „se apropie probabil” de acest prag. [...]