Știri
Știri din categoria Inteligență artificială
Mark Zuckerberg mizează pe piață și litigii, nu pe frâne de reglementare, pentru controlul IA, într-un moment în care marile companii din tehnologie discută tot mai des despre standarde comune și auto-reglementare, potrivit Agerpres. Șeful Meta respinge apelurile de suspendare sau încetinire a dezvoltării inteligenței artificiale, argumentând că „mecanismele pieței” și riscul de acțiuni în justiție sunt „cele mai bune garanții” în fața acestei tehnologii.
Într-o postare pe X, Zuckerberg a susținut că utilizatorii nu vor folosi „agenți” (programe de tip asistent care execută sarcini) care nu sunt „aliniați” intereselor lor, iar acest lucru creează un stimulent economic pentru laboratoare să-și ajusteze modelele. În acest context, „alinierea” înseamnă efortul de a face modelele de IA să se comporte conform intențiilor oamenilor, iar Zuckerberg anticipează că laboratoarele care nu se concentrează pe această zonă „vor rămâne în urmă”.
Îngrijorările legate de IA au crescut în ultimele săptămâni, după „mai multe incidente de securitate” și după apariția unei noi capacități a modelelor de a se perfecționa singure, fără intervenție umană, notează materialul citat de Agerpres. Pe acest fundal, discuția se mută tot mai mult spre întrebarea dacă sectorul se poate auto-reglementa.
În paralel, companii precum OpenAI, Anthropic și Google analizează crearea unui organism comun pentru elaborarea unor standarde, în încercarea de a răspunde presiunilor publice și politice privind riscurile.
În timp ce o parte a industriei, condusă de directorul general al Anthropic, Dario Amodei, pledează pentru încetinirea dezvoltării IA, Zuckerberg spune că amenințarea cu procese obligă deja laboratoarele să acționeze responsabil. Ca exemplu, el indică decizia Meta de a amâna cu „mai multe luni” lansarea sistemului Muse AI (care include agenți personalizați), pentru a consolida măsurile de securitate și siguranță.
Zuckerberg s-a declarat și în favoarea evaluărilor independente ale sistemelor de IA, menționând că Meta Superintelligence Labs folosește deja experți externi. Totodată, el a cerut un „ecosistem mai vast și mai diversificat de evaluatori” la nivelul întregului sector, într-o critică voalată la adresa Anthropic, companie acuzată de unii că ar favoriza evaluatori cu care are legături strânse.
Pe linia de reglementare, Meta se opune oricăror reguli care ar putea încetini dezvoltarea domeniului. Compania intenționează să investească anul acesta până la 145 de miliarde de dolari (aprox. 652,5 miliarde lei) în infrastructura sa de IA, iar fondatorul său a spus la începutul lunii august că nicio regulă nu ar trebui să întârzie lansarea modelelor americane „nici măcar cu o lună”.
Opinia lui Zuckerberg a fost salutată de mai multe personalități din Silicon Valley apropiate Casei Albe, care contestă, la rândul lor, intensificarea avertismentelor privind riscurile IA și apelurile de încetinire a dezvoltării acesteia.
Recomandate
Donald Trump transmite că SUA nu au nevoie de reguli noi pentru AI , susținând că instrumentele penale și de reglementare existente sunt suficiente – o poziție care poate influența direct ritmul investițiilor în centre de date și dezvoltarea tehnologiei, într-un moment de volatilitate pe bursă, potrivit HotNews . Președintele SUA a minimalizat îngrijorările exprimate în weekend de lideri din industrie privind utilizarea abuzivă a inteligenței artificiale. Într-o postare pe Truth Social, Trump a susținut că „singurul control” de care ar avea nevoie AI este „un președinte puternic și inteligent”, adăugând că Statele Unite „au deja puteri extraordinare în materie penală și de reglementare” asupra companiilor din domeniu. În același mesaj, Trump a afirmat că punerea sub semnul întrebării a eforturilor de dezvoltare a AI ar avantaja China și a denunțat ceea ce a numit o „teorie a conspirației bolnavă” împotriva inteligenței artificiale și a centrelor de date. Context: presiune pe acțiuni și temeri legate de controlul agenților AI Declarațiile vin într-o zi în care acțiunile companiilor din sectorul inteligenței artificiale au scăzut puternic la nivel mondial, după ce liderii unora dintre cele mai mari companii din industrie au cerut încetinirea ritmului de dezvoltare a tehnologiei. Potrivit Reuters , declinul urmează unor săptămâni în care au fost relatate cazuri în care agenți AI au acționat împotriva instrucțiunilor operatorilor pentru a accesa sisteme externe. În paralel, mai mulți cercetători importanți în siguranța AI au părăsit companiile la care lucrau, avertizând că dezvoltarea rapidă ar putea duce, într-un viitor nu foarte îndepărtat, la dispariția rasei umane. Ce propune industria și ce semnal dă Casa Albă Sâmbătă, CEO-ul Anthropic, Dario Amodei , a prezentat un cadru în trei etape pentru temperarea ritmului de dezvoltare a AI, astfel încât să existe mai mult timp pentru gestionarea riscurilor. Propunerea a fost susținută de mai mulți directori din industrie, inclusiv Elon Musk (xAI) și Sam Altman (OpenAI). Trump a afirmat că mecanismele de siguranță ar fi fost deja folosite în cazul lui Amodei și a susținut că administrația sa „i-a împiedicat deja pe cei din domeniul AI să facă lucruri rele sau potențial rele” și că va continua în aceeași direcție. Ce urmează: discuții SUA–China pe tema riscurilor AI Trump urmează să se întâlnească săptămâna viitoare, la Washington, cu președintele chinez Xi Jinping. Reuters a relatat anterior că cele două țări plănuiau și o întâlnire separată, la jumătatea lunii septembrie, pentru a discuta riscurile asociate inteligenței artificiale, reuniune care ar fi urmat să fie condusă de oficiali guvernamentali de rang inferior. [...]
Meta Muse urcă rapid în topul App Store din SUA, dar ritmul de adopție rămâne sub alte lansări Meta , potrivit CNMO , care citează date ale firmei de inteligență de piață Sensor Tower . Aplicația de „agent AI” (asistent capabil să execute sarcini în locul utilizatorului) a ajuns pe locul 2 în clasamentul aplicațiilor gratuite din App Store-ul american și a depășit 83.000 de descărcări pe iOS în SUA, fiind deocamdată disponibilă doar pe această piață. Un start bun în iOS, dar sub reperele interne ale Meta Deși poziționarea în top este puternică, comparațiile cu alte produse Meta arată un debut mai puțin spectaculos ca volum. Conform acelorași date Sensor Tower, Threads a trecut de 4,3 milioane de descărcări în SUA chiar în prima zi, iar aplicația Meta AI a avut 108.000 de descărcări în ziua lansării pe piața americană. Ca reper din aceeași categorie, ChatGPT ar fi depășit 500.000 de instalări în SUA în mai puțin de o săptămână, cu o medie de aproximativ 83.300 de instalări noi pe zi; CNMO notează că Muse a avut nevoie de aproximativ dublul timpului pentru a ajunge la un ritm comparabil. Creștere accelerată în App Store, dar tracțiune modestă pe Android Muse și-a continuat urcarea în clasamentul din App Store: după ce miercuri era pe locul 4 în topul aplicațiilor gratuite din SUA, a ajuns pe locul 2 într-o singură zi. În schimb, pe Android performanța este descrisă ca fiind mai modestă: în Google Play, aplicația se află pe locul 338 în categoria „Productivity”, iar datele de descărcări pentru Android nu sunt publice. CNMO mai precizează că Muse poate fi accesat și prin web, precum și din WhatsApp, însă traficul din aceste canale nu este inclus în statisticile menționate. Miza: piața de agenți AI pentru consumatori și competiția în creștere În plan strategic, Muse este prezentat ca un produs-cheie prin care Meta pariază pe piața agenților AI pentru consumatori, pe ideea că astfel de instrumente – care pot îndeplini efectiv sarcini pentru utilizatori – vor reprezenta următoarea etapă de evoluție a inteligenței artificiale de masă. În același segment sunt menționate și produse concurente precum Gemini Spark (Google) și Claude Cowork (Anthropic). Totuși, pentru zona de agenți „simpli” orientați către publicul larg, CNMO indică drept rival relevant o aplicație numită Instinct, care oferă servicii de agent AI prin interfață de tip SMS și care ar avea o evaluare de 2,5 miliarde de dolari (aprox. 11,25 miliarde lei) și finanțare de 350 milioane de dolari (aprox. 1,58 miliarde lei). Instinct ar fi lansat și un serviciu de e-mail pentru toți utilizatorii și ar fi anunțat dezvoltarea unei rețele sociale de agenți bazați pe relații sociale reale, plus integrări cu Stripe și 1Password și funcții de partajare a locației. Factor de fricțiune: cerințe de date personale și context reputațional CNMO atrage atenția că momentul lansării ar putea influența adopția inițială: aplicația ar solicita utilizatorilor să furnizeze mai multe date personale către Meta. În plus, lansarea vine la câteva zile după ce Meta ar fi acceptat să plătească 18 miliarde de dolari (aprox. 81 miliarde lei) pentru a închide un acord de soluționare într-un proces colectiv multistatal legat de acuzații privind efectele rețelelor sociale asupra consumatorilor. Publicația amintește și de istoricul companiei privind breșe de date și amenzi pentru confidențialitate în SUA, elemente care ar putea reduce încrederea unei părți dintre utilizatori și, implicit, disponibilitatea de instalare. [...]
Lansarea agentului AI „Muse” de către Meta a dus la pierderea numelui de utilizator de către trupa britanică Muse , reaprinzând discuția despre cât control au marile platforme asupra identității digitale a utilizatorilor și a mărcilor, potrivit Euronews . Meta a lansat marți „Muse”, un agent cu inteligență artificială, iar compania folosește acum numele de utilizator pentru acest produs. În paralel, fanii au observat că trupa Muse, care avea de ani buni pe Instagram și pe X, apare acum cu pe ambele platforme. Circumstanțele exacte în care s-a schimbat administrarea conturilor nu sunt clare. Numele „Muse” este marcă înregistrată din 1999, iar schimbarea de pe Instagram ar fi avut loc în iulie, potrivit The Independent, în timp ce utilizatori de pe Reddit ar fi sesizat modificări încă de la începutul lunii iunie, notează Engadget (care citează aceste observații). Euronews precizează că nu este clar nici când s-a produs schimbarea pe X. Confuzie operațională: etichetări greșite și identitate digitală „mutată” Miza nu este doar una de imagine. Potrivit articolului, postările inițiale ale lui Mark Zuckerberg despre agentul „Muse” ar fi etichetat aparent contul formației, ceea ce ar fi putut genera confuzii. Și postări mai vechi ale altor directori Meta ar fi etichetat, „în mod inexplicabil”, trupa. În lipsa unor explicații publice despre cum se fac aceste transferuri, cazul ridică din nou întrebări despre capacitatea platformelor mari de a prelua nume de utilizator atunci când le convine, mai ales când acestea sunt asociate cu branduri consacrate. Un tipar: conturi preluate în jurul unor lansări majore Euronews amintește că nu este prima situație în care, în contextul unui anunț important, Meta ajunge să controleze un nume de utilizator relevant: În 2021, Meta a cumpărat numele de utilizator de pe Instagram, folosit anterior de o revistă independentă de motociclism; redactorul-șef a descris atunci situația drept o „lovitură” când a văzut un „Goliat corporatist” preluând identitatea folosită din 2014. Revista și-a schimbat ulterior numele. În 2023, la lansarea Threads , Meta nu controla inițial contul (folosit de retailerul American Threads), dar o lună mai târziu a preluat brusc controlul asupra lui. Publicația notează că Meta oferă puține detalii despre astfel de schimbări și că, oficial, compania nu permite cumpărarea, vânzarea sau schimbul de nume de utilizator pe Instagram, deși „se știe” că nume căutate își schimbă proprietarii, uneori prin modalități neobișnuite. Reacții și lipsa unui punct de vedere oficial Unii fani și-au exprimat dezamăgirea că numele formației este folosit pentru o funcție bazată pe inteligență artificială. The Independent mai arată, potrivit Euronews, că trupa a compus piese „puternic inspirate de temerile și anxietățile legate de tehnologie și de modul în care aceasta ar putea fi folosită pentru oprimare socială”. Meta nu a răspuns solicitărilor de comentarii, iar reprezentanții trupei Muse nu au oferit, la rândul lor, un punct de vedere, conform aceleiași surse. Context: și X a avut cazuri similare, inclusiv o „piață” de nume Euronews menționează că și pe X au existat pierderi de nume de utilizator în moduri aparent neoficiale. De exemplu, deținătorul contului ar fi fost informat în 2023 că va pierde numele, iar în același an numele (folosit din 2007) ar fi fost schimbat pentru a deveni cont oficial X. Mai recent, X a deschis o „piață de nume de utilizator” pentru cumpărarea oficială a unor nume inactive. Pentru utilizatori și branduri, aceste episoade arată că numele de utilizator nu funcționează întotdeauna ca un „bun” stabil, chiar și atunci când este asociat cu o marcă veche, iar regulile și procedurile de transfer rămân, în bună parte, opace. [...]
China își fixează reguli unice pentru datele EEG folosite în dispozitive medicale BCI , un pas de reglementare care poate grăbi intrarea pe piață a unor tehnologii bazate pe Inteligență Artificială, prin standardizarea calității datelor și a testării. Potrivit Antena 3 , autoritățile chineze au aprobat primul standard din lume pentru dispozitive medicale de tip interfață creier–calculator (BCI), care folosesc AI. Reglementarea a fost aprobată de autoritățile de reglementare medicală din China și este prezentată ca un standard global „în premieră” pentru această categorie de dispozitive, conform Global Times, citat de Antena 3. Intrarea oficială în vigoare este programată la 1 septembrie 2027 , potrivit postului China Central Television (CCTV). Ce reglementează standardul și de ce contează pentru industrie Standardul stabilește cerințe tehnice și metode de testare pentru gestionarea datelor în cazul dispozitivelor medicale BCI, acoperind întregul flux: colectarea datelor EEG (electroencefalografie), procesarea, etichetarea, stocarea, accesarea datelor. Wang Peng, cercetător asociat la Academia de Științe Sociale din Beijing, spune că miza este instituirea unui „etalon unificat de calitate” pentru seturile de date EEG la nivelul întregii industrii. În practică, prevederile ar urma să ajute companiile să rezolve probleme recurente, precum lipsa unor standarde unitare de control al calității și procesele nestandardizate de dezvoltare a seturilor de date. Impactul asupra siguranței și a utilizării clinice Administrația Națională pentru Produse Medicale din China (NMPA) descrie dispozitivele medicale BCI ca mașini inteligente capabile să „citească” semnalele creierului. Pentru a funcționa, acestea „învață” din volume mari de date EEG, folosite la antrenarea algoritmilor de Inteligență Artificială care interpretează intențiile pacienților. În acest context, calitatea datelor devine critică atât pentru rezultatele tratamentului, cât și pentru siguranța pacienților. Potrivit lui Peng Wang, standardul ar întări siguranța prin cerințe unitare de calitate pentru datele EEG utilizate la antrenarea algoritmilor AI și ar susține o decodificare mai precisă a „intențiilor” cerebrale, reducând riscurile de siguranță „la nivelul datelor”. Global Times mai notează că NMPA a folosit o procedură accelerată pentru elaborarea și aprobarea standardului, care ar acoperi un gol în normele internaționale și ar poziționa China în avangarda reglementării tehnologiilor BCI. În evaluarea citată, standardul ar putea accelera transpunerea BCI în practica clinică, prin eliminarea unor obstacole legate de date care frânează comercializarea produselor pentru recuperare medicală și tratarea bolilor neurologice. [...]
Dependența Europei de AI din SUA și China poate deveni un risc economic și de negociere , avertizează președinta Băncii Centrale Europene, Christine Lagarde , într-o intervenție citată de The Next Web . Miza, în lectura BCE, nu este doar tehnologică: accesul la inteligență artificială ar putea fi retras sau condiționat, iar această pârghie ar ajunge „în toate sectoarele deodată”, cu efecte directe asupra creșterii și asupra capacității Europei de a-și conduce economia după propriile reguli. Lagarde a făcut aceste declarații într-un discurs susținut la Viena, pe 14 septembrie, intitulat „A new age of capital: growth, sovereignty and AI”, publicat de BCE (link în secțiunea de surse). De ce contează: un deficit de infrastructură care poate costa până la 600 mld. euro În argumentația sa, Lagarde leagă „suveranitatea” în AI de o problemă foarte concretă: capacitatea de calcul (resursele hardware și centrele de date necesare pentru antrenarea și rularea modelelor). Potrivit discursului, SUA găzduiesc trei sferturi din capacitatea globală de calcul pentru AI, în timp ce Europa găzduiește 5%. În plus, Europa „nu are deja suficientă capacitate de centre de date” pentru a-și acoperi cererea, iar pe tendințele actuale acest deficit ar urma să crească de peste șase ori în următorul deceniu. Lagarde estimează „decalajul” Europei la centre de date, pe zece ani, la până la 600 mld. euro . „O alegere incomodă”: creștere cu dependență sau prudență cu pierdere de productivitate Lagarde descrie opțiunile Europei drept „o alegere incomodă”: fie încetinește adoptarea AI din cauza riscurilor legate de protecția datelor și renunță la creștere, fie adoptă rapid și devine puternic dependentă de furnizori externi — cu riscul de a-și pierde libertatea de a-și conduce economia „după propriile valori”. În același timp, BCE vede un potențial economic semnificativ: estimările instituției indică faptul că o adoptare rapidă ar putea ridica productivitatea cu până la 4% într-un deceniu, ceea ce Lagarde numește „transformator” pentru finanțele publice. Trei pași propuși: capacitate de calcul, modele „suficient de bune” și acces la vârf Lagarde indică trei direcții pentru reducerea riscului de „a fi tăiat” de la accesul la AI: mai multă capacitate de calcul în Europa ; modele AI „suficient de bune” pentru majoritatea sarcinilor , rulate pe infrastructură europeană — condiție în care „amenințarea de a fi tăiat își pierde forța”, potrivit discursului; acces la modelele de vârf (frontier models) , pentru ca Europa să rămână competitivă. Ea leagă această agendă de funcționarea piețelor de capital: gospodăriile europene economisesc aproximativ 1.400 mld. euro pe an , iar Lagarde susține că proiectele europene de AI au nevoie de piețe care să direcționeze mai mult din aceste economii către investiții în Europa — obiectiv pe care îl plasează în sarcina viitoarei „uniuni a economiilor și investițiilor”. Efecte deja vizibile în finanțe: credit, obligațiuni și costuri mai mari de finanțare Lagarde susține că boom-ul AI se vede deja în finanțarea companiilor: în primul trimestru, împrumuturile legate de AI au reprezentat „aproximativ un sfert” din creșterea creditului către firme. În paralel, marile companii americane de servicii cloud au emis obligațiuni de peste 100 mld. dolari (aprox. 450 mld. lei) anul trecut, potrivit discursului. O parte din această finanțare are loc și în Europa și „împinge în sus costurile pentru alți debitori”, a relatat Reuters, citată de The Next Web. Lagarde mai afirmă că gospodăriile din zona euro dețin aproximativ 440 mld. euro în companii tehnologice americane, astfel că o corecție de piață ar lovi direct economisirile europenilor. Context: tensiuni transatlantice și val de investiții în centre de date The Next Web notează, citând Reuters și The Guardian, că relația UE–SUA rămâne una de alianță, dar încrederea a fost afectată de episoade precum tarifele impuse de SUA, cereri americane legate de Groenlanda și retrageri de trupe din Europa. Pe fondul presiunii de capacitate, sunt menționate și anunțuri recente de centre de date în Europa, inclusiv planul Google de 13 mld. euro pentru Finlanda și o investiție din Emiratele Arabe Unite în Germania care include 1 GW de centre de date. Surse (din materialul citat) Discurs BCE, Viena (14 septembrie): European Central Bank Context și reacții: Reuters , The Guardian [...]
Bernie Sanders și Steve Bannon cer restricții pentru AI, într-o alianță rară care poate accelera reglementarea în SUA , pe fondul presiunii publice și al disputei dintre Washington și state privind cine stabilește regulile, potrivit HotNews . Senatorul progresist Bernie Sanders și activistul de extremă dreapta Steve Bannon, adversari politici de lungă durată, urmează să ceară împreună marți, la o reuniune la Washington, introducerea unor restricții asupra sistemelor de inteligență artificială. Reuters, citată de HotNews, notează că această asociere neobișnuită arată cum temerile legate de AI „schimbă regulile și convențiile” în politica americană. Miza: cine reglementează AI – guvernul federal sau statele Un punct central al disputei este dacă legislația federală ar trebui să limiteze capacitatea statelor de a-și aplica propriile reguli privind riscurile asociate modelelor de AI. Reuters a relatat anterior că senatorii americani dezbat un proiect de lege care ar împiedica statele să își aplice propriile legi pentru anumite riscuri generate de aceste modele, iar încercări similare au eșuat în trecut în Senatul SUA. Bannon a susținut, în podcastul său de luni, că legislativul de la Washington nu ar trebui să adopte legi care să blocheze statele din a-și aplica propriile reguli în domeniul tehnologiei – o poziție care, potrivit sursei, îl plasează din nou în contradicție cu Donald Trump. Presiune publică în creștere și reacții în piețe Îngrijorarea publică privind potențialele pericole ale AI este descrisă ca fiind în creștere, după ce Jacob Coxon, fost cercetător la Anthropic, a spus săptămâna trecută că a demisionat „în parte” deoarece oamenii care construiesc AI „cred sincer că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”. În același context, acțiunile companiilor din sectorul AI au scăzut luni la nivel mondial, după ce liderii unora dintre cele mai mari companii din industrie au cerut încetinirea ritmului de dezvoltare a tehnologiei. Critici la adresa lui Trump și mesajul anti-„oligarhi tech” Bannon, aliat de lungă durată al președintelui Donald Trump și fost șef pentru strategie la Casa Albă în primul mandat, a criticat abordarea acestuia privind supravegherea domeniului AI. El a pus lipsa de disponibilitate a lui Trump de a reglementa AI pe seama influenței companiilor din Silicon Valley. „Poporul american nu se va umili în fața acestor oligarhi tech.” De cealaltă parte, Trump a minimalizat luni îngrijorările exprimate de lideri ai industriei, afirmând că SUA au deja mecanisme de protecție pentru această tehnologie. Cine mai participă la reuniunea de la Washington La eveniment sunt așteptați să vorbească și: Liz Shuler, președinta AFL-CIO (cea mai mare federație de sindicate din SUA); Walter Kim, președintele Asociației Naționale a Evanghelicilor. Separat, Sanders și congresmanul progresist Greg Casar au cerut anterior o legislație care să oprească dezvoltarea instrumentelor AI capabile să „răstoarne sau să submineze guvernul SUA”, până la înființarea unei noi agenții care să supravegheze tehnologia. [...]
