Știri
Știri din categoria Inteligență artificială
Bill Gates cere reglementări obligatorii pentru AI, avertizând că un „buton de urgență” nu ajunge, pe fondul temerilor că tehnologia ar putea fi folosită abuziv și ar scăpa de sub control, potrivit Biziday.
Într-un interviu acordat duminică postului american NBC, Gates a spus că, dacă inteligența artificială nu este ținută sub control, ar putea cauza „un miliard de morți” și i-a criticat pe factorii de decizie pentru că nu tratează subiectul suficient de serios. El a cerut implicarea „forțelor de ordine și politicienilor” în stabilirea măsurilor de protecție, inclusiv prin monitorizare, pe care o vede ca obligatorie.
„Avem nevoie ca forțele de ordine și politicienii să participe la discuția despre cum arată măsurile de protecție și monitorizarea. Și acesta trebuie să fie un lucru obligatoriu.”
Gates a criticat ideea că riscurile AI pot fi gestionate doar printr-un mecanism de tip „kill switch” (buton de oprire de urgență), argumentând că discuția trădează, uneori, lipsa de familiaritate tehnică a unor decidenți.
„Nu este suficient să ai un buton. Încă nu am ajuns în punctul în care… acestea preiau controlul asupra computerelor în mod autonom și nu pot fi oprite. Așadar, această discuție… arată, într-un fel, cât de puțin familiarizați cu aspectele tehnice sunt unii oameni.”
El a mai avertizat asupra riscului ca AI să ajungă în „mâini răuvoitoare”, descriind combinația dintre actori cu intenții rele și cele mai noi instrumente AI drept o amenințare fără precedent.
Declarațiile vin după ce o inițiativă a guvernului american de a introduce o lege care ar fi obligat companiile de AI să implementeze „butoane de urgență” în modelele lor a fost respinsă, notează publicația, citând informații apărute în The Guardian și Politico.
În paralel, mai mulți directori din tehnologie, inclusiv Sam Altman și Elon Musk, s-au alăturat apelurilor pentru încetinirea dezvoltării AI, pe fondul unor incidente în care agenți AI ar fi desfășurat acțiuni fără acord.
Gates a reluat astfel semnale de alarmă exprimate și de alți experți, într-un moment în care, potrivit Biziday, el publicase în august și un eseu despre riscurile AI pentru securitatea globală (menționat de publicație aici).
Recomandate
Bill Gates avertizează că inteligența artificială poate amplifica riscurile de securitate și cere reglementare , într-un context în care unele dintre cele mai importante companii din domeniu spun că sunt dispuse să încetinească dezvoltarea tehnologiei după incidente de securitate, potrivit Economica . Miliardarul american a declarat pentru NBC că „AI este cu siguranţă suficient de puternică pentru a declanşa evenimente care ar putea cauza un miliard de decese”, răspunzând unei întrebări despre capacitatea AI de a distruge omenirea. În același context, Gates a susținut că „nu a existat niciodată o armă mai puternică decât combinaţia dintre oamenii cu intenţii rele care folosesc cele mai noi instrumente AI”. De ce contează: presiune pentru reguli și supraveghere Întrebat dacă este nevoie de legislație pentru reglementarea AI, Gates a spus că „nimeni nu crede că autoreglementarea este suficientă”. El a adăugat că este necesară implicarea autorităților: „Este nevoie ca forţele de ordine şi politicienii să se implice în discuţia referitoare la cum vor arăta măsurile de protecţie şi de monitorizare”. Mesajul are relevanță directă pentru modul în care ar putea fi construită supravegherea publică a tehnologiilor AI: nu doar prin reguli voluntare ale industriei, ci prin măsuri de protecție și monitorizare discutate cu instituțiile statului. Context: companiile mari vorbesc despre încetinirea dezvoltării Dezbaterea privind reglementarea AI a revenit în prim-plan după ce OpenAI (creatorul ChatGPT) și Anthropic au transmis că sunt pregătite să încetinească ritmul dezvoltării tehnologiei, ca urmare a unei serii de incidente de securitate, mai notează publicația. [...]
Donald Trump a respins ideea unei cooperări SUA–China în inteligența artificială , argumentând că Washingtonul are un avans pe care vrea să-l păstreze, potrivit Agerpres . Mesajul indică o linie mai dură care poate influența direct companiile de tehnologie și fluxurile de investiții din AI, într-un context în care colaborarea transfrontalieră este esențială pentru cercetare, infrastructură și acces la piețe. Declarația vine după o „discuție importantă” pe tema AI pe care Trump spune că a avut-o în această săptămână cu președintele chinez Xi Jinping . La Casa Albă , Trump a folosit termenul preferat de el, „super-inteligență” (SI), pentru a descrie subiectul discuției. De ce contează pentru industrie și investiții Trump a susținut că Beijingul ar urmări să încetinească progresul american și a invocat poziția dominantă a SUA în domeniu. În această logică, o „integrare” a inițiativelor ar însemna, în viziunea sa, deschiderea unui acces reciproc care ar reduce avantajul competitiv. „Ceea ce vor ei să facă este să ne oprească progresul, pentru că suntem mult înaintea Chinei și intenționăm să ne păstrăm acest avans.” Ce a spus, concret, despre „integrare” Trump a insistat că nu vrea ca SUA să „integreze” inițiativele privind AI cu cele ale Chinei, tocmai pentru că „avem un avans considerabil”. El a încheiat ideea cu o formulare care sugerează o abordare de tip „liderul nu își deschide tehnologia” în relația cu un competitor strategic. „Aș prefera să nu le integrăm, pentru că avem un avans considerabil.” „Când ești lider, nu deschizi accesul reciproc.” [...]
Întâlnirea Trump–Xi a redeschis dialogul SUA–China pe IA fără acorduri concrete , dar cu semnale că cele două puteri nu vor să frâneze dezvoltarea tehnologiei, într-un moment în care competiția pentru cipuri avansate și controlul exporturilor rămâne un punct sensibil pentru industrie, potrivit Economica . Donald Trump a transmis pe rețeaua sa Truth Social că a avut „o întâlnire foarte productivă” cu președintele chinez Xi Jinping și că „se vor întâmpla lucruri extraordinare”. În același mesaj, Trump a susținut că liderului chinez „pare să-i placă” ideea schimbării denumirii „Inteligență Artificială” în „Superinteligență”. Ce semnal dă discuția despre IA: accelerare, nu „pauză” În contextul apelurilor de încetinire a dezvoltării IA, venite „în special dinspre Uniunea Europeană”, Trump a sugerat că SUA și China ar intenționa să nu frâneze dezvoltarea inteligenței artificiale. El se opune încetinirii ritmului, argumentând că SUA sunt „în avangardă” în domeniu. Pentru companii, miza este direct economică și operațională: dacă cele două superputeri mențin o linie de „accelerare”, presiunea pe investiții (infrastructură de calcul, cipuri, centre de date) și pe accesul la tehnologie de vârf rămâne ridicată, iar competiția se mută și mai mult în zona lanțurilor de aprovizionare. Cine a fost la recepție și ce lipsește din ecuație Trump a mai afirmat că „toți au fost de acord și aseară” cu privire la schimbarea denumirii, referindu-se la recepția pe care a găzduit-o joi în onoarea lui Xi. Printre participanți s-au numărat nume grele din industria tech americană: Elon Musk (xAI) Sam Altman (OpenAI) Jensen Huang (Nvidia) Tim Cook (Apple) Sundar Pichai (Alphabet) Jeff Bezos (Amazon) Michael Dell (Dell Technologies) Economica notează și un absent notabil: directorul general al Anthropic, Dario Amodei, descris ca un susținător important al reglementării IA — un detaliu relevant în contextul tensiunii dintre tabăra „accelerării” și cea a „frânării” prin reguli mai stricte. Context: rivalitate pe cipuri și armistițiu comercial prelungit Deși IA a fost un subiect cheie pe agenda discuțiilor, nu a fost anunțat niciun acord concret; în schimb, a fost „deschis un dialog” într-un domeniu în care SUA și China sunt rivale. În paralel, cele două țări au convenit să prelungească armistițiul comercial până pe 10 ianuarie , ceea ce suspendă escaladarea represaliilor prin taxe vamale și restricții, inclusiv în zone sensibile precum comerțul cu pământuri rare și produse de înaltă tehnologie. Pentru sectorul tehnologic, acest armistițiu reduce temporar riscul unor șocuri suplimentare în aprovizionare, fără să elimine însă disputa de fond legată de accesul Chinei la cipuri avansate. [...]
OpenAI și Anthropic urmează să fie audiate de Consiliul de Securitate al ONU pe riscurile AI , într-o reuniune care semnalează intrarea inteligenței artificiale pe agenda de reglementare și securitate la cel mai înalt nivel internațional, cu potențiale consecințe pentru companiile din domeniu. Informațiile sunt prezentate de Cointelegraph . Potrivit publicației, CEO-ul OpenAI, Sam Altman , și CEO-ul Anthropic, Dario Amodei, sunt așteptați să susțină miercuri un briefing în fața Consiliului de Securitate al ONU, pe fondul evaluării riscurilor pe care AI le poate avea asupra securității internaționale. CNBC relatează că ONU a confirmat participarea celor doi. La discuții ar urma să participe și CEO-ul Hugging Face, Clément Delangue, precum și Yoshua Bengio, co-președinte al Panelului Științific Internațional Independent al ONU pentru AI. De ce contează: presiune de reglementare și standarde de siguranță Reuters notează că reuniunea vizează îngrijorările tot mai mari legate de impactul AI asupra securității internaționale, pe măsură ce sistemele devin mai capabile și crește riscul pierderii controlului uman. Consiliul de Securitate a discutat formal pentru prima dată despre inteligența artificială în 2023, pe măsură ce guvernele au început să analizeze implicațiile de securitate. Reuniunea de miercuri este convocată de Franța, conform Reuters. Cine mai este invitat Conform Reuters, companiile chineze de AI DeepSeek și Moonshot au fost invitate să facă declarații. DeepSeek este așteptată să participe, însă fondatorul Liang Wenfeng nu intenționează să fie prezent, potrivit aceleiași relatări, care citează o sursă familiarizată cu situația. Cointelegraph precizează că a solicitat confirmări și comentarii de la Anthropic, OpenAI și biroul purtătorului de cuvânt al ONU, dar nu primise răspunsuri până la publicare. [...]
Administrația SUA vrea să schimbe termenul oficial folosit pentru AI , urmând să utilizeze în comunicarea guvernamentală expresia „super inteligență” („SI”) în loc de „inteligență artificială” („AI”), potrivit News , care relatează declarațiile făcute de Donald Trump la Adunarea Generală a ONU . În discursul de la ONU, Trump a susținut că noua formulare „sună mult mai bine” și că este „mult mai potrivită” decât „inteligență artificială”. El a argumentat că termenul „inteligență artificială” „sună ca și cum (această tehnologie) este falsă”, în timp ce, în opinia sa, AI „nu este falsă”. Ce schimbă, concret, această decizie Din informațiile prezentate, schimbarea vizează limbajul oficial al Guvernului american : de acum înainte, în comunicarea sa, administrația ar urma să folosească „super inteligență” în loc de „inteligență artificială”. Trump și-a exprimat și speranța ca „lumea” să adopte aceeași formulare, adăugând că rămâne de văzut dacă poate influența și alte guverne să urmeze acest neologism. „Bine ați venit în lumea super inteligenței, «SI».” „Vom vedea dacă am putere.” Contextul termenului „super inteligență”, așa cum apare în material În domeniu, „super inteligență” este descrisă ca stadiul în care AI ar depăși capacitățile de raționare și reflecție ale omului în toate domeniile . Materialul notează că, potrivit părerii generale, inclusiv cele mai avansate modele AI sunt încă departe de acest obiectiv. În acest cadru, anunțul are o miză operațională: dacă termenul se schimbă în comunicarea oficială a SUA, el poate influența modul în care instituțiile publice își formulează mesajele și, potențial, felul în care este descrisă tehnologia în spațiul public internațional. [...]
Jensen Huang respinge ideea unor noi reglementări pentru AI și cere accelerarea dezvoltării , susținând că riscurile „apocaliptice” sunt nefondate, potrivit Tom's Hardware . Mesajul vine într-un moment în care discuțiile despre controlul inteligenței artificiale se intensifică, iar poziția șefului Nvidia are potențial să influențeze dezbaterea de reglementare din industrie. Publicația relatează, citând un material Bloomberg bazat pe un interviu CBS, că Huang a spus că există „0% șanse” ca inteligența artificială să distrugă omenirea până la finalul deceniului. În aceeași logică, el a argumentat că, deși AI se dezvoltă „într-un ritm extrem de rapid”, scenariile de tip „sfârșitul lumii” sunt „în mare parte nefondate”. Ce spune Nvidia despre riscuri și ritmul dezvoltării În declarațiile preluate, Huang respinge ideea alimentării fricii în spațiul public și consideră că nu are sens să „stârnești teamă în America”. În plus, el pledează pentru accelerarea dezvoltării, afirmând că „ar trebui să mergem cât de repede putem, indiferent de oricine altcineva”. De ce contează: presiune în dezbaterea de reglementare Dincolo de componenta de opinie, poziția exprimată de CEO-ul Nvidia are relevanță directă pentru discuțiile despre reglementarea AI, pentru că se plasează explicit împotriva introducerii unor noi reguli și minimizează argumentele de tip „doom” (scenarii catastrofice) asociate cu tehnologia. Tom’s Hardware notează că Huang a respins avertismentele de acest tip, inclusiv cele atribuite Anthropic, companie cunoscută pentru accentul pus pe siguranța AI. Informațiile disponibile în material sunt limitate la aceste declarații și la contextul de atribuire (Bloomberg/CBS); nu sunt oferite detalii despre ce reglementări concrete vizează Huang sau ce propuneri legislative sunt în discuție. [...]
