Știri
Știri din categoria Inteligență artificială
Bill Gates pregătește o extindere a campaniei pentru siguranța inteligenței artificiale, mizând pe influența directă asupra directorilor executivi, potrivit The Next Web, care citează un material Axios bazat pe surse anonime. Miza este una de reglementare: Gates ar urmări reguli mai ferme într-un moment în care, susțin sursele, consideră că autoritățile reacționează prea lent la accelerarea capabilităților modelelor și la incidentele de securitate.
Conform relatării, Gates „se sprijină personal” pe lideri de business și ia în calcul o mobilizare majoră a resurselor sale pentru această agendă, fără ca forma exactă a campaniei să fie încă definită. Axios notează și o replică atribuită lui Gates, spusă unei persoane consultate pe tema siguranței IA:
„Pot ajunge la directori executivi pe tema asta mai bine decât poți tu.”
Sursele citate de Axios spun că Gates a devenit tot mai îngrijorat de trei evoluții: creșterea capabilităților modelelor, incidente de securitate „alarmante” și ceea ce el percepe drept reglementare slabă. În timp ce își pregătea argumentele pentru reguli mai stricte, ar fi discutat pe larg cu directori din domeniul IA, cercetători și susținători ai siguranței, inclusiv cu CEO-ul Anthropic, Dario Amodei.
Acest proces l-ar fi făcut să considere limitarea riscurilor IA drept una dintre cele mai importante teme ale vieții sale, potrivit acelorași surse.
Materialul trece în revistă poziționări recente ale lui Gates, care indică direcția posibilă a demersului:
Axios mai susține că apelurile lui Gates pentru reglementare puternică l-ar putea aduce în conflict cu administrația Trump, descrisă ca favorizând o abordare mai relaxată. Potrivit relatării, administrația ar fi organizat un grup de oficiali de rang înalt care să „supravegheze industria” printr-un pact voluntar de siguranță.
Separat, unele persoane cu care Gates ar fi discutat au descris această ofensivă drept un „comeback tour”, interpretat ca o încercare de refacere a moștenirii sale publice afectate de asocierea din trecut cu Jeffrey Epstein. Gates a spus, potrivit Axios, că înțelege că unii îi pot respinge avertismentele din acest motiv.
Recomandate
Inteligența artificială ar putea împinge PIB-ul SUA la 44.000 de miliarde de dolari până în 2030 , potrivit unui model economic intern al Anthropic , relatează news.ro . Estimarea ar însemna o creștere de la „puțin peste 30.000 de miliarde de dolari” în prezent, pe fondul accelerării capacităților AI. Declarațiile au fost făcute de Jack Clark , cofondator al Anthropic, sâmbătă, la reuniunile anuale ale Fondului Monetar Internațional și Băncii Mondiale, organizate la Bangkok. Clark a spus că îmbunătățirea rapidă a AI va accelera schimbările „în toate domeniile de activitate”. „Știu că pare foarte puțin plauzibil, dar aceasta este una dintre implicațiile faptului că tehnologia continuă să se îmbunătățească.” Ce ar presupune, economic, un astfel de scenariu Potrivit lui Clark, o expansiune de această magnitudine ar implica apariția unor industrii și invenții noi, care să susțină o creștere puternică a producției economice americane. El a argumentat, totodată, că AI contribuie deja la accelerarea semnificativă a descoperirilor științifice. Miza pentru companii și autorități: reguli mai stricte În același timp, cofondatorul Anthropic a avertizat că amploarea transformărilor generate de AI impune o cooperare internațională mai strânsă pentru stabilirea unor reguli de reglementare „neobişnuit de stricte şi serioase”, adaptate impactului tehnologiei. Estimarea privind PIB-ul este prezentată ca rezultat al unui model intern al companiei și este tratată chiar de autorul ei ca fiind, cel puțin la prima vedere, dificil de crezut; materialul nu oferă detalii despre metodologia modelului sau despre ipotezele folosite. [...]
Bill Gates spune că riscul major al AI este folosirea ei în scopuri malițioase, nu „scăparea de sub control” , potrivit HotNews , care relatează declarațiile făcute după o audiere în Comisia de Supraveghere a Camerei Reprezentanților din SUA. În evaluarea cofondatorului Microsoft , „adevăratul pericol” nu este scenariul în care inteligența artificială ar deveni incontrolabilă, ci faptul că tehnologia poate fi pusă la lucru de „persoane rău intenționate”, ceea ce ar putea genera consecințe negative în lumea reală. „Adevăratul pericol nu este acela că inteligența artificială ar deveni incontrolabilă”, ci că această tehnologie riscă să fie „folosită de persoane rău intenționate”. HotNews notează și avertismentul lui Gates că „vom avea multe surprize neplăcute”, fără a detalia în fragmentul disponibil ce tip de incidente anticipează sau un calendar al riscurilor. [...]
Meta a rescris termenii care i-ar fi permis să își antreneze IA pe site-urile clienților , după reacții negative din partea companiilor și a presei, potrivit The Next Web . În versiunea revizuită a documentului, cuvântul „train” („antrena”) nu mai apare, însă criticii spun că schimbarea nu închide complet subiectul. Modificarea a fost făcută târziu, vineri, după plângeri venite de la clienți business, a relatat Gizmodo. Meta a transmis într-o declarație pentru Mercury News: „V-am auzit și vrem să clarificăm.” Ce se schimbă în practică pentru companiile care folosesc produse comerciale Meta Meta susține că termenii de „crawling” (accesare automată a paginilor web cu programe de tip crawler/bot) s-au aplicat „întotdeauna” doar produselor sale de publicitate și business, iar acum această limitare este formulată explicit în document. În același timp, compania spune că nu își schimbă modul în care funcționează crawler-ele web. Termenii ar urma să intre în vigoare pe 30 octombrie, iar companiile îi acceptă prin simpla continuare a utilizării produselor comerciale Meta. De ce nu sunt convinși editorii: „antrenarea” nu mai e listată, dar nici interzisă explicit News/Media Alliance, organizație care reprezintă editori din SUA, consideră că „reparația” limitează doar scopurile pentru care Meta poate folosi conținutul. Potrivit Mercury News, purtătorul de cuvânt Sam Quigley a spus că eliminarea „training”-ului din lista de utilizări nu înseamnă că practica este interzisă în mod expres. „Încă este potențial pe masă.” Quigley a mai atras atenția că termenii nu precizează că Meta va respecta robots.txt — fișierul prin care site-urile indică roboților ce pagini pot sau nu pot vizita. Miza de reglementare și operațională: regulile vechi pentru boți sunt puse sub presiune Formularea termenilor acoperă date colectate de „web scrapers, bots, spiders, crawlers și user agents” (categorii de programe automate care navighează și colectează conținut de pe web). Contextul este extinderea „agenților IA” pe internet, care crește presiunea pe regulile tradiționale de acces automatizat la conținut. În paralel, Meta își accelerează strategia de IA după lansarea Muse, iar în piață apar și instrumente dedicate „agenților” — inclusiv produse dezvoltate de startup-uri precum Firecrawl. [...]
OpenAI alocă 5 milioane de dolari (aprox. 23 milioane lei) pentru a finanța verificarea și dezvoltarea rezultatelor matematice generate de AI , într-o mișcare menită să reducă tensiunile din comunitatea academică după acuzații de plagiat legate de o problemă veche de aproape un secol, potrivit Antena 3 . Donația merge către fundația Simons , axată pe matematică, și vine după ce Asociația pentru Matematică Umană (AHM) a criticat compania de inteligență artificială pentru modul în care a comunicat „rezolvarea” unei probleme majore din matematică, în contextul în care au apărut suspiciuni că rezultatele s-ar fi bazat pe munca altor cercetători. De ce contează: bani pentru „audit” științific al rezultatelor produse de AI OpenAI spune că finanțarea are ca scop să „ajute matematicienii să examineze, să înțeleagă și să dezvolte rezultatele produse de inteligența artificială”, inclusiv rezultate publicate recent. Practic, compania încearcă să mute discuția din zona de dispută privind prioritatea științifică într-un cadru de evaluare și validare făcut de comunitatea de specialitate. În postarea de pe rețeaua X, OpenAI a transmis că vrea să sprijine transformarea progreselor din AI „într-o înțelegere umană mai profundă și în noi descoperiri”. Contextul acuzațiilor: Navier–Stokes și disputa privind prioritatea În septembrie, OpenAI a anunțat că un model AI nelansat încă ar fi rezolvat o problemă majoră legată de ecuațiile Navier–Stokes , asociate cu descrierea mișcării fluidelor pe baza celei de-a doua legi a lui Newton. Potrivit materialului, problema îi pune în dificultate pe matematicieni de aproape un secol. Conform TechCrunch, doi matematicieni au spus că erau aproape de un rezultat similar și au pus sub semnul întrebării dacă activitatea OpenAI s-a bazat pe munca lor. OpenAI a negat că ar fi văzut lucrările acestora. Unul dintre matematicieni, Levent Alpöge, lucrează la Anthropic și colabora în nume propriu. AHM a criticat public demersul OpenAI, afirmând că: „Matematicienii nu au cerut ca această muncă să fie făcută” și acuzând compania de „totală lipsă de respect față de normele cercetării științifice”. Cum vor fi folosiți banii și ce mai include pachetul de finanțare OpenAI precizează că cei 5 milioane de dolari vor finanța: „ateliere, conferințe și programe speciale”; acces la modelele OpenAI și la resurse de calcul pentru cercetătorii sprijiniți de fundația Simons. Inițiativa are, în total, finanțare și resurse de 15 milioane de dolari, oferite împreună de fundația Simons, Anthropic și OpenAI, potrivit articolului. [...]
Amazon mizează pe „dispozitive ambientale” cu AI care ar putea reduce dependența de aplicații , iar pariul are implicații operaționale directe: hardware care rulează „în fundal”, captează context din viața utilizatorului și livrează automat sarcini, mementouri și informații. La TechCrunch Disrupt, Panos Panay , SVP Devices, Alexa & Leo, a descris această direcție ca următorul pas în calculul personal, potrivit TechCrunch . Panay a susținut că interacțiunea actuală cu smartphone-ul presupune ca utilizatorul „să-și amintească” ce să ceară dispozitivului, în timp ce viitorul ar porni de la „dispozitive ambientale” care folosesc senzori și inteligență artificială pentru a identifica ce e de făcut, fără comenzi explicite. „Cred că ne îndreptăm spre o lume care începe cu dispozitive ambientale.” Ce înseamnă „ambient” în viziunea Amazon: Bee, înregistrare pasivă și note automate Cea mai concretă intrare a Amazon în această zonă este setul de dispozitive Bee prezentat joi: o brățară purtabilă (care poate fi detașată și purtată ca pandantiv) și un dispozitiv de mărimea unui card, care se prinde magnetic pe spatele smartphone-ului. TechCrunch le leagă de lansarea noilor purtabile AI Bee (context publicat separat, în același site). Funcțional, aceste gadgeturi: înregistrează pasiv audio și generează note despre zi; extrag „to-do”-uri, mementouri și „insight”-uri (informații utile) la care utilizatorul poate reveni ulterior. Miza operațională: AI care „înțelege ce ai nevoie”, nu „dă-mi aplicația” Panay a descris o tranziție în care cererea „dă-mi aplicația pentru asta” devine mai puțin relevantă, pe măsură ce tot mai multe sarcini sunt rezolvate prin AI, pe baza contextului captat de senzori. „Da, cred că transformarea asta vine. Cred că asta este următoarea generație.” În același timp, el a nuanțat că nu vede un singur tip de dispozitiv care să înlocuiască toate celelalte (de exemplu, smartphone-ul), ci mai degrabă un „strat de inteligență” care le conectează și trebuie să fie util în practică. Confidențialitatea, condiție de funcționare pentru dispozitivele care „ascultă” Pentru a limita riscurile de confidențialitate, TechCrunch notează că dispozitivele Bee nu stochează audio brut din conversații: procesează în timp real și șterg apoi. Transcrierile sunt criptate cu chei create și controlate de dispozitiv, iar accesul altor persoane — inclusiv angajați Amazon — nu ar fi posibil fără partajare intenționată din partea utilizatorului. Panay a spus că protecția datelor a fost o considerentă-cheie în proiectarea acestor dispozitive și că utilizatorii trebuie să aibă control. „Trebuie să le oferi clienților acel control.” [...]
Nvidia ia în calcul oprirea livrărilor de cipuri AI către clienții care dezvoltă sisteme nesigure , potrivit WinFuture – o poziție care poate schimba practic accesul la infrastructura de calcul pentru companiile ce construiesc produse de inteligență artificială, într-o piață în care cipurile Nvidia sunt esențiale. Jensen Huang a spus, într-o discuție la Londra cu Bloomberg, că scenariul este „ipotetic”, dar că răspunsul este „da” la întrebarea dacă Nvidia ar tăia aprovizionarea unui client care construiește AI nesigură. Înainte de o astfel de decizie, Huang afirmă că ar încerca mai întâi o discuție cu clientul și subliniază că Nvidia „nu poate controla companiile altora”, iar tehnologia sa are utilizări multiple, nu doar în aplicații cu risc. Precedent: liste de cumpărători aprobați și verificări mai dure în Asia Publicația notează că restricționarea accesului la produse Nvidia nu este doar teorie. Anul trecut, compania a introdus o listă de cumpărători aprobați în Singapore, Malaezia și Japonia, iar înăsprirea verificărilor a dus la pierderea aprobării pentru mai mult de jumătate dintre clienții care fuseseră anterior livrați în aceste piețe. „Dureri de creștere” și control intern pentru agenți AI Huang califică îngrijorările actuale privind siguranța drept „dureri de creștere” ale unei tehnologii noi și spune că o parte din temeri au fost generate chiar de industrie. Soluția pe care o indică este accelerarea dezvoltării de sisteme care să limiteze și să monitorizeze AI, inclusiv folosirea inteligenței artificiale ca instrument de control. În acest context, Nvidia construiește un „propriu” grup intern care să verifice agenții AI înainte de utilizare, pentru a identifica riscuri de securitate. În evaluarea lui Huang, problema devine tot mai puțin performanța tehnică și tot mai mult încrederea companiilor că pot opera aceste sisteme în siguranță. Fără reglementare de stat, în viziunea lui Huang În același timp, șeful Nvidia respinge măsuri stricte de reglementare guvernamentală pentru sector. El a susținut anterior, la conferința Dreamforce, că nu sunt necesare legi noi și că firmele ar trebui să continue dezvoltarea, oprindu-se doar când un produs devine nesigur. Poziția contrazice, între alții, pe Dario Amodei (Anthropic), care a cerut o încetinire la nivel de industrie și standarde comune de siguranță. Pentru companii, mesajul are o consecință operațională directă: accesul la cipuri ar putea depinde nu doar de capacitatea de plată sau de conformarea comercială, ci și de modul în care își gestionează riscurile de siguranță ale produselor AI – într-un domeniu în care, după cum admite chiar Huang, „nu există niciodată siguranță sută la sută”, iar criteriile concrete rămân de văzut. [...]
