Google retrage o funcție de generare AI din hărțile satelitare Google Earth - compania invocă riscul de dezinformare și promite „guardrails” mai stricte

Google a retras rapid o funcție de generare de imagini în Google Earth , după ce a fost criticată pentru riscul de dezinformare , iar compania spune că lucrează la „bariere” mai puternice înainte de o eventuală revenire, potrivit The Jerusalem Post . Funcția, prezentată inițial joi, permitea utilizatorilor să suprapună peste imaginile reale din hărțile satelitare Google Earth imagini false, dar cu aspect realist. În anunțul de lansare, Google a susținut că instrumentul poate „aduce istoria la viață” sau poate „transforma” un loc și a indicat utilizări precum planuri imobiliare sau infografice personalizate. La o zi după, compania a făcut pasul înapoi și a anunțat că lucrează la întărirea măsurilor de protecție pentru generarea de imagini. Google a motivat decizia și prin nivelul ridicat de încredere asociat produsului: „Știm că oamenii au în mod special încredere în Google Earth pentru o vedere fiabilă asupra lumii”, se arată în declarația citată de publicație. Compania spune că a văzut profesioniști din zona geospațială folosind funcția în scopuri utile, dar și distribuirea de capturi de ecran cu imagini generate care „par să încalce politicile” sale. De ce nu ajunge un filigran Google a precizat că imaginile generate de inteligența artificială erau marcate (watermark/filigran) ca atare. Totuși, Hank van Ess , expert în metode de cercetare online, a scris într-o postare pe blog că filigranul ar funcționa doar în ecosistemul Google — de exemplu, când o imagine este analizată cu Gemini. În același sens, Emmanuelle Saliba, director de investigații la compania de detecție a conținutului generat de AI GetReal, a declarat pentru The Washington Post (citată de The Jerusalem Post) că astfel de măsuri sunt insuficiente pentru a preveni dezinformarea, deoarece nu schimbă modul în care oamenii consumă informația: imaginile sunt văzute și redistribuite în câteva secunde, în timp ce verificarea autenticității cere timp și context, „punând povara pe consumator”. Un risc suplimentar: „alibiul” pentru negarea realității Van Ess a semnalat și un risc din direcția opusă: nu doar ca publicul să fie indus în eroare de imagini false, ci ca existența unui astfel de instrument să ofere autorităților un pretext pentru a respinge imagini reale drept fabricate. „Un oficial poate acum să se uite la o fotografie autentică a unei atrocități reale și să spună: AI.” Ce urmează Din informațiile prezentate, Google nu a indicat un calendar pentru reintroducerea funcției, ci doar că lucrează la „guardrails” (măsuri de limitare și control) mai puternice pentru generarea de imagini. Retragerea rapidă sugerează că, în cazul produselor cu reputație de sursă „de încredere”, riscul de utilizare abuzivă poate cântări mai mult decât potențialele utilizări legitime. [...]