Bill Gates cere Congresului SUA reguli obligatorii pentru dezvoltarea inteligenței artificiale - spune că „butonul de oprire de urgență” nu e suficient și invocă riscuri majore dacă AI scapă de sub control

Bill Gates cere reglementări obligatorii pentru AI, avertizând că un „buton de urgență” nu ajunge , pe fondul temerilor că tehnologia ar putea fi folosită abuziv și ar scăpa de sub control, potrivit Biziday . Într-un interviu acordat duminică postului american NBC, Gates a spus că, dacă inteligența artificială nu este ținută sub control, ar putea cauza „un miliard de morți” și i-a criticat pe factorii de decizie pentru că nu tratează subiectul suficient de serios. El a cerut implicarea „forțelor de ordine și politicienilor” în stabilirea măsurilor de protecție, inclusiv prin monitorizare, pe care o vede ca obligatorie. „Avem nevoie ca forțele de ordine și politicienii să participe la discuția despre cum arată măsurile de protecție și monitorizarea. Și acesta trebuie să fie un lucru obligatoriu.” De ce „butonul de oprire” nu rezolvă problema, în viziunea lui Gates Gates a criticat ideea că riscurile AI pot fi gestionate doar printr-un mecanism de tip „kill switch” (buton de oprire de urgență), argumentând că discuția trădează, uneori, lipsa de familiaritate tehnică a unor decidenți. „Nu este suficient să ai un buton. Încă nu am ajuns în punctul în care… acestea preiau controlul asupra computerelor în mod autonom și nu pot fi oprite. Așadar, această discuție… arată, într-un fel, cât de puțin familiarizați cu aspectele tehnice sunt unii oameni.” El a mai avertizat asupra riscului ca AI să ajungă în „mâini răuvoitoare”, descriind combinația dintre actori cu intenții rele și cele mai noi instrumente AI drept o amenințare fără precedent. Context: o inițiativă legislativă respinsă și presiune din industrie Declarațiile vin după ce o inițiativă a guvernului american de a introduce o lege care ar fi obligat companiile de AI să implementeze „butoane de urgență” în modelele lor a fost respinsă, notează publicația, citând informații apărute în The Guardian și Politico . În paralel, mai mulți directori din tehnologie, inclusiv Sam Altman și Elon Musk, s-au alăturat apelurilor pentru încetinirea dezvoltării AI, pe fondul unor incidente în care agenți AI ar fi desfășurat acțiuni fără acord. Gates a reluat astfel semnale de alarmă exprimate și de alți experți, într-un moment în care, potrivit Biziday, el publicase în august și un eseu despre riscurile AI pentru securitatea globală (menționat de publicație aici ). [...]