Știri
Știri din categoria Inteligență artificială
Premierul Italiei avertizează că deepfake-urile pot manipula opinia publică, după ce a redistribuit pe Instagram o fotografie falsă cu ea, generată cu ajutorul inteligenței artificiale, potrivit G4Media. Mesajul Giorgiei Meloni mută discuția din zona „incidentelor” individuale spre riscul operațional al dezinformării: conținutul sintetic (generat de AI) poate fi folosit ca instrument de atac și influențare, cu efecte care depășesc persoana vizată.
Meloni spune că în ultimele zile au circulat „mai multe fotografii false” cu ea, „create cu ajutorul inteligenței artificiale” și prezentate ca autentice. Ea afirmă că, în cazul imaginii redistribuite, autorul „a și înfrumusețat-o”, dar subliniază că miza rămâne folosirea oricărui mijloc „doar pentru a ataca și a inventa minciuni”.
„Deepfake-urile sunt un instrument periculos, deoarece pot înșela, manipula și afecta pe oricine.”
În postarea citată, premierul italian insistă că problema „depășește sfera” personală: astfel de falsuri pot induce în eroare și pot fi redistribuite rapid, amplificându-și impactul. Meloni își construiește mesajul în jurul unei reguli de igienă informațională, pe care o formulează explicit: „verifică înainte să crezi și crede înainte să distribui”.
Totodată, ea atrage atenția asupra asimetriei de putere: „Eu pot să mă apăr. Mulți alții nu pot”, sugerând că țintele fără vizibilitate publică sau resurse pot fi mai vulnerabile la astfel de atacuri.
Materialul amintește că nu este prima dată când utilizarea inteligenței artificiale sau a conținutului manipulat intersectează politica. Potrivit informațiilor prezentate, în urmă cu cinci ani, când Meloni era lidera partidului FdI, chipul ei a fost folosit într-un filmuleț pornografic publicat pe un site pentru adulți, iar doi bărbați (tată și fiu) au ajuns ulterior în fața instanței.
De asemenea, articolul menționează că în februarie anul trecut, înaintea votului pentru referendumul privind justiția, a existat „o avalanșă de știri false” pe rețelele sociale, în favoarea votului „da”, inclusiv prin „sute de profiluri” care au postat comentarii cu fraze identice, hashtag-uri similare și sloganuri repetate.
Recomandate
Google suspendă funcția de generare de imagini cu AI din Google Earth , după ce au apărut utilizări care ar încălca politicile companiei, o decizie cu impact operațional direct pentru utilizatorii și profesioniștii care o foloseau în fluxuri de lucru, potrivit Economica . Funcția, bazată pe modelul de inteligență artificială Nano Banana 2 , permitea crearea de imagini fotorealiste pornind de la imaginile satelitare, aeriene și 3D din Google Earth, prin introducerea unei descrieri text pentru orice locație de pe glob, relatează News.ro (care citează poziția Google). De ce a retras Google funcția: risc de dezinformare și încălcări ale politicilor Instrumentul a fost criticat pentru riscul de dezinformare, deoarece putea genera scene fictive suprapuse peste imagini reale ale unor monumente și obiective turistice. Google a transmis pe platforma X că a observat atât utilizări „în scopuri utile” în zona geospațială, cât și distribuirea unor imagini generate care „par să încalce politicile” companiei. În consecință, funcția este suspendată „până la introducerea unor măsuri de protecție suplimentare”. „Am văzut profesionişti din domeniul geospaţial folosind această funcţie în scopuri utile, însă am observat şi utilizatori care au distribuit imagini generate ce par să încalce politicile noastre.” Ce știm și ce rămâne neclar Compania nu a precizat ce tipuri de imagini au încălcat regulile sale, dar a subliniat că acestea nu apăreau în experiența principală Google Earth și erau marcate vizibil ca fiind generate cu ajutorul inteligenței artificiale. Context: limitări repetate ale funcțiilor AI în marile platforme Reuters notează că marile companii de tehnologie au fost nevoite în repetate rânduri să limiteze sau să dezactiveze funcții bazate pe inteligență artificială, pe fondul problemelor legate de dezinformare, utilizarea abuzivă și protecția vieții private. Ca exemplu recent, la începutul lunii, Meta a renunțat la funcția Muse Image, care genera imagini folosind fotografii publice de pe Instagram, după critici privind confidențialitatea. Pentru utilizatori, suspendarea din Google Earth înseamnă, practic, indisponibilitatea temporară a unei funcții de generare vizuală, până când Google va anunța măsuri suplimentare de protecție și, eventual, relansarea acesteia. [...]
Google a retras rapid o funcție de generare de imagini în Google Earth , după ce a fost criticată pentru riscul de dezinformare , iar compania spune că lucrează la „bariere” mai puternice înainte de o eventuală revenire, potrivit The Jerusalem Post . Funcția, prezentată inițial joi, permitea utilizatorilor să suprapună peste imaginile reale din hărțile satelitare Google Earth imagini false, dar cu aspect realist. În anunțul de lansare, Google a susținut că instrumentul poate „aduce istoria la viață” sau poate „transforma” un loc și a indicat utilizări precum planuri imobiliare sau infografice personalizate. La o zi după, compania a făcut pasul înapoi și a anunțat că lucrează la întărirea măsurilor de protecție pentru generarea de imagini. Google a motivat decizia și prin nivelul ridicat de încredere asociat produsului: „Știm că oamenii au în mod special încredere în Google Earth pentru o vedere fiabilă asupra lumii”, se arată în declarația citată de publicație. Compania spune că a văzut profesioniști din zona geospațială folosind funcția în scopuri utile, dar și distribuirea de capturi de ecran cu imagini generate care „par să încalce politicile” sale. De ce nu ajunge un filigran Google a precizat că imaginile generate de inteligența artificială erau marcate (watermark/filigran) ca atare. Totuși, Hank van Ess , expert în metode de cercetare online, a scris într-o postare pe blog că filigranul ar funcționa doar în ecosistemul Google — de exemplu, când o imagine este analizată cu Gemini. În același sens, Emmanuelle Saliba, director de investigații la compania de detecție a conținutului generat de AI GetReal, a declarat pentru The Washington Post (citată de The Jerusalem Post) că astfel de măsuri sunt insuficiente pentru a preveni dezinformarea, deoarece nu schimbă modul în care oamenii consumă informația: imaginile sunt văzute și redistribuite în câteva secunde, în timp ce verificarea autenticității cere timp și context, „punând povara pe consumator”. Un risc suplimentar: „alibiul” pentru negarea realității Van Ess a semnalat și un risc din direcția opusă: nu doar ca publicul să fie indus în eroare de imagini false, ci ca existența unui astfel de instrument să ofere autorităților un pretext pentru a respinge imagini reale drept fabricate. „Un oficial poate acum să se uite la o fotografie autentică a unei atrocități reale și să spună: AI.” Ce urmează Din informațiile prezentate, Google nu a indicat un calendar pentru reintroducerea funcției, ci doar că lucrează la „guardrails” (măsuri de limitare și control) mai puternice pentru generarea de imagini. Retragerea rapidă sugerează că, în cazul produselor cu reputație de sursă „de încredere”, riscul de utilizare abuzivă poate cântări mai mult decât potențialele utilizări legitime. [...]
Comisia Europeană a deschis licitația pentru până la șapte „gigafabrici” de inteligență artificială, dar finanțarea publică este încă în mare parte neasigurată , ceea ce pune sub semnul întrebării calendarul și capacitatea UE de a recupera rapid decalajul față de SUA și China, potrivit The Next Web . Inițiativa este prezentată ca un efort de circa 30 miliarde euro, construit pe un parteneriat public-privat: aproximativ 10 miliarde euro ar urma să vină de la Bruxelles și statele membre, iar restul de 20 miliarde euro de la investitori privați, pe ideea că banii publici pot „atrage” capitalul necesar proiectelor. Ce se cumpără, concret: putere de calcul la scară mare Fiecare „gigafabrică” ar urma să găzduiască cel puțin 100.000 de cipuri avansate pentru AI, ceea ce ar face-o de circa patru ori mai puternică decât cele mai mari centre de date care operează în prezent în UE. Împreună, cele până la șapte unități ar urma să dubleze (și chiar să depășească) capacitatea de calcul pentru AI a blocului comunitar. Comisia diferențiază aceste proiecte de rețeaua existentă de 19 „fabrici AI” mai mici, atașate supercomputerelor europene: noile amplasamente sunt gândite „cu un ordin de mărime” mai mari, pentru antrenarea modelelor de vârf (frontier models) pe care, în prezent, doar câteva laboratoare din SUA și China și le permit. Miza economică: UE încearcă să reducă dependența de „compute” închiriat Rațiunea proiectului este una competitivă: companiile europene ajung să închirieze putere de calcul (compute) de la furnizori americani de cloud, în timp ce SUA și China investesc masiv în infrastructură. Henna Virkkunen, responsabilă în Comisie pentru „suveranitatea tehnologică”, numește această scară de calcul „o necesitate strategică”. Interesul de piață există: o rundă anterioară de exprimare a interesului a strâns 76 de răspunsuri din partea unor consorții din Europa, iar zece țări – inclusiv Germania, Franța, Italia, Spania și Polonia – s-au poziționat ca potențiale gazde. Franța a semnalat deja că ar putea merge pe cont propriu. Problema-cheie: banii publici sunt, deocamdată, mai mult „intenție” Deși proiectul este prezentat ca având o componentă publică de circa 10 miliarde euro, doar aproximativ 1 miliard euro din partea Bruxelles-ului este efectiv angajat, restul depinzând de următorul buget multianual al UE (Multiannual Financial Framework), care nu este încă agreat. Un oficial de rang înalt a spus explicit că suma este o „cea mai bună estimare” a ceea ce ar putea fi disponibil, nu bani deja alocați: „Nu putem anticipa deciziile privind următorul MFF.” Această incertitudine intră în conflict cu un calendar ambițios: construcția ar trebui să înceapă la începutul lui 2027, iar primele „gigafabrici” să devină operaționale la mijlocul lui 2028. Riscuri operaționale: întârzieri, energie scumpă și dependență de cipuri americane Planul a fost lansat inițial la începutul lui 2025 și „a alunecat” de mai multe ori, ceea ce sugerează prudență în privința termenelor. În plus, există două constrângeri structurale: Lanțul de aprovizionare cu cipuri : cipurile ar urma să vină în principal de la Nvidia, AMD și Qualcomm – companii americane – ceea ce complică mesajul de „independență”. Costul energiei : electricitatea în Europa este de două până la trei ori mai scumpă decât în SUA sau China, iar alimentarea centrelor de date este deja un factor limitativ. Criticii citați de publicație pun sub semnul întrebării modelul, argumentând că închirierea unei capacități „suverane” construită pe hardware străin poate crea doar o aparență de independență și că decalajul real al Europei este la nivel de cipuri și modele, nu de clădiri. Comisia susține, însă, că infrastructura este un început: finanțatorii publici ar urma să primească o cotă proporțională din puterea de calcul pentru cercetare și proiecte publice, iar pariul este că infrastructura va atrage ulterior talent, startup-uri și, în timp, investiții în producția de cipuri. În acest moment, licitația este deschisă, dar „pachetul” de 30 miliarde euro rămâne în bună măsură o ambiție: UE a anunțat ținta, însă a securizat până acum doar o fracțiune din finanțarea publică necesară. [...]
Modelul de uragane al DeepMind a câștigat timp operațional pentru prognoze, dar rămâne o „cutie neagră” și ridică o problemă practică: meteorologii îl pot folosi ca avantaj, fără să știe încă ce semnal fizic „vede” în date, potrivit Ars Technica . Modelul de inteligență artificială pare să extragă informație relevantă din date cu rezoluție mai mică și să o transforme în predicții mai timpurii despre intensitatea furtunilor, însă cercetătorii nu știu ce anume captează. „Este o cutie neagră la finalul zilei, dar asta le dă fizicienilor un semnal că se întâmplă ceva care nu era înțeles anterior”, spune Alet. Ce schimbă în munca de prognoză: mai multe scenarii, mai repede Spre deosebire de o prognoză singulară, modelul generează o plajă de scenarii posibile pentru o furtună în formare. Abordarea urmărește să surprindă efecte de tip „fluture” — situații în care o abatere mică poate produce schimbări mari ulterior — iar prognoziștii pot folosi aceste ieșiri împreună cu cele ale altor modele pentru a estima evoluția probabilă a sistemului. Un element operațional important este creșterea masivă a numărului de simulări: anul trecut modelul producea 50 de scenarii pe furtună, iar acum generează 1.000. „Asta este ceva ce, cu puterea noastră de calcul, pur și simplu nu putem face cu modelele numerice existente”, spune Musgrave. Limitarea-cheie: performanța nu garantează consistență, iar oamenii rămân esențiali Brennan descrie modelul DeepMind drept un instrument valoros, dar insistă că este doar unul dintre multe. El avertizează că rezultatele bune într-un sezon sau pentru o furtună nu înseamnă automat că același model va fi cel mai bun în sezonul următor. „Nu există nicio garanție că un model, pentru că a mers bine anul trecut sau a mers foarte bine pentru această furtună, va fi neapărat cel mai bun pentru sezonul următor sau următoarea furtună.” În plus, spune el, componenta umană rămâne critică: uraganul nu înseamnă doar traiectorie și intensitate, ci traducerea prognozei în impact — iar impactul este cel care ucide oameni. Ce urmează: modelele WeatherNext vor fi publicate ca open-source Google DeepMind a anunțat că va publica în regim open-source modelele WeatherNext folosite în sezonul uraganelor, astfel încât cercetătorii să le poată utiliza și îmbunătăți. Alet speră că deschiderea către comunitatea de cercetare va ajuta inclusiv la înțelegerea mai bună a modului în care funcționează cicloanele. Materialul citat de Ars Technica provine inițial dintr-o relatare publicată de Wired . [...]
ByteDance își crește masiv pariul pe infrastructură și cercetare AI : grupul chinez antrenează un model care ar putea ajunge la 10 trilioane de parametri , într-o încercare de a se apropia de vârful pieței dominat de laboratoare americane precum Anthropic , potrivit Ars Technica . Modelul este, conform a trei persoane familiarizate cu proiectul citate de publicație, într-o fază timpurie de antrenare și ar urma să fie „pre-antrenat” (etapa de bază în care modelul învață din volume mari de date) timp de trei până la șase luni, înainte de ajustarea fină și o eventuală lansare „dacă totul merge bine”. Dimensiunea finală ar urma să fie stabilită mai târziu. Prin comparație, aceeași sursă notează că Anthropic nu publică dimensiunile modelelor sale, însă estimări din industrie indică aproximativ 8 trilioane de parametri pentru Mythos 5 și circa 5 trilioane pentru Fable 5. Ars Technica subliniază că numărul de parametri indică, în linii mari, capacitatea „de memorie” a unui model, dar performanța depinde și de calitatea datelor și de metodele de antrenare. Ce înseamnă operațional: investiții în centre de date, echipe mari și strategie „independentă” ByteDance, compania-mamă a TikTok, și-a ținut relativ discret profilul în AI, în condițiile în care multe dintre modelele sale sunt „închise” (nu sunt publicate deschis), spre deosebire de alți jucători chinezi. Totuși, grupul a investit agresiv în ultimii trei ani, extinzându-și rețeaua de centre de date și recrutând cercetători, în paralel cu dezvoltarea diviziei de cloud Volcano Engine, care vinde soluții AI către companii, potrivit articolului. În plus, ByteDance ar avea ambiții de a dezvolta cipuri AI proprii, o direcție care, dacă se concretizează, ar putea reduce dependența de furnizori externi în condițiile în care antrenarea modelelor de dimensiuni foarte mari este limitată de accesul la hardware performant. Echipa Seed, care dezvoltă modelele, este condusă de Wu Yonghui (fost cercetător Google DeepMind) și ar avea aproximativ 2.000 de membri în China și în afara țării, incluzând cercetători, ingineri de infrastructură, echipe de etichetare a datelor și traducători. De ce contează: cursa pentru modele de „frontieră” se mută și pe terenul Chinei Ars Technica arată că mai multe laboratoare chineze ar antrena modele de dimensiunea Fable 5, însă ByteDance ar fi, în acest moment, cel mai ambițios în încercarea de a împinge dimensiunea spre zona de vârf. În ultimele săptămâni, modele din China dezvoltate de Moonshot și Alibaba ar fi avut rezultate puternice pe teste standardizate, rămânând în anumite zone în urma lui Fable 5. În același timp, Mythos 5 ar fi disponibil doar organizațiilor aprobate, după o interdicție temporară în iunie, invocată pe fondul unor îngrijorări de securitate, conform articolului. Strategie: fără „distilare”, cu ritm posibil mai lent Un element-cheie este alegerea ByteDance de a nu folosi „distilarea” altor modele (o tehnică prin care un model mai mic este antrenat să reproducă ieșirile unuia mai mare), optând pentru o dezvoltare mai independentă. Această abordare ar fi în vigoare de peste un an și, potrivit unor opinii din industrie citate de Ars Technica, ar fi putut contribui la un ritm mai lent față de rivali. Fondatorul Zhang Yiming ar fi reiterat într-o întâlnire internă, cu două săptămâni înainte, că echipa Seed ar trebui să urmărească „capabilități de model la nivel de lider mondial” pe termen lung, fără a se concentra excesiv pe faptul că ar putea rămâne temporar în urmă. Comentariile ar fi fost relatate inițial de presa chineză Latepost și de The Information, mai notează articolul. ByteDance nu a răspuns unei solicitări de comentariu. [...]
Un experiment care ar putea accelera terapiile cu bacteriofagi pune presiune pe regulile de biosecuritate , după ce cercetători au folosit inteligența artificială generativă pentru a crea virusuri care nu există în natură, potrivit Mediafax . Cercetătorii de la Universitatea Stanford au dezvoltat un program de inteligență artificială generativă, numit Evo 2 , capabil să creeze noi genomuri (materialul genetic complet al unui organism). Cu ajutorul acestuia, echipa a proiectat și produs 16 bacteriofagi sintetici – virusuri mici care infectează bacteriile – informație atribuită de Mediafax publicației Financial Times. Ce au obținut și de ce contează operațional în medicină Bacteriofagii (numiți pe scurt „fagi”) sunt considerați o posibilă alternativă la antibiotice în anumite situații, pentru a distruge bacteriile care provoacă infecții. În testele realizate într-un laborator securizat, noii fagi au fost mai eficienți în distrugerea bacteriei E. coli decât fagul natural ΦX174, al cărui genom a fost folosit ca punct de plecare pentru Evo 2. Rezultatele au fost publicate joi în revista Science, iar coordonatorul proiectului, Brian Hie, a descris demersul ca o demonstrație de principiu privind capacitatea inteligenței artificiale generative de a crea genomuri „complete și funcționale”. Miza de reglementare: avertismente privind biosecuritatea Pe lângă potențialul medical, apar și semnale de alarmă privind controlul acestor tehnologii. Thomas Inglesby și Moritz Hanke, de la Centrul pentru Securitatea Sănătății al Universității Johns Hopkins , au avertizat, în același număr al revistei Science, că studiul ridică „întrebări urgente privind siguranța și securitatea biologică”. Cei doi au apreciat măsurile de precauție luate de echipa de la Stanford, dar au susținut că regulile actuale nu sunt suficiente pentru a controla dezvoltarea genomicii generative. Context: de ce bacteriofagii nu sunt deja o soluție „la scară” Terapia cu bacteriofagi este folosită de decenii în Europa de Est, unde sunt selectați fagi care pot ataca tulpina bacteriană responsabilă de infecția pacientului. În Occident, metoda nu este utilizată pe scară largă, în principal din cauza procedurilor complexe și a riscului ca bacteriile să dezvolte rezistență și la fagi. În acest context, capacitatea de a proiecta rapid fagi noi poate deschide o direcție importantă pentru tratamente, dar, în același timp, amplifică presiunea pentru actualizarea cadrului de siguranță și supraveghere a cercetării în biologia sintetică. [...]
