Google extinde verificarea conținutului generat sau editat cu AI în Search, Chrome și Gemini - lansează și un API de detecție pe Google Cloud pentru companii

Google extinde verificarea conținutului generat cu IA în Search și Chrome , mizând pe filigrane digitale și „credite” standardizate care pot reduce costurile de moderare și riscurile de fraudă pentru platforme și companii, potrivit Google Blog . Miza operațională este să devină mai ușor de înțeles „de unde vine” un fișier (imagine, video, audio) și dacă a fost modificat, într-un context în care media generativă este tot mai accesibilă și mai greu de diferențiat de conținutul autentic. Ce se schimbă în produsele Google Google spune că își extinde instrumentele de transparență și verificare a conținutului în mai multe produse: Search, aplicația Gemini, Chrome, Pixel și Cloud. Pe partea de verificare a conținutului „marcat” cu SynthID (tehnologie de filigranare digitală, invizibilă), compania: a adăugat recent verificarea SynthID pentru imagine, video și audio în aplicația Gemini, utilizată deja de 50 de milioane de ori la nivel global; extinde verificarea SynthID în Search „de astăzi” și în Chrome „în următoarele săptămâni”. În Search, Google indică folosirea unor funcții precum Lens, AI Mode și Circle to Search, iar în Chrome – Gemini integrat în browser, astfel încât utilizatorii să poată întreba direct dacă un conținut este generat cu IA (de tipul „Este făcut cu IA?”). Standardul C2PA și rolul telefoanelor Pixel În paralel, Google folosește C2PA Content Credentials, un standard industrial care arată cum a fost creat și modificat un fișier media, indiferent dacă a implicat sau nu IA. Compania afirmă că Pixel 10 a fost primul smartphone care a oferit Content Credentials pentru imagini în aplicația nativă a camerei. În plus, Google spune că extinde această tehnologie pentru a include și video pe telefoanele Pixel 8, 9 și 10 „în următoarele săptămâni”. Ideea, potrivit companiei, este ca „punctul de captură” (camera) să poată documenta faptul că un conținut a fost înregistrat de o cameră, ceea ce ar ajuta la identificarea conținutului autentic, needitat, nu doar a celui generat sau modificat cu IA. Verificare și pentru „creditele” C2PA, în Gemini și ulterior în Search și Chrome Google anunță și verificarea pentru C2PA Content Credentials, astfel încât utilizatorii să poată vedea dacă un fișier este un original nealterat sau dacă a fost modificat și cu ce instrumente. Această funcție începe să fie disponibilă în aplicația Gemini „de astăzi” și ar urma să ajungă în Search și Chrome „în lunile următoare”. Implicații pentru companii: API de detecție în Google Cloud Pentru utilizarea în organizații, Google lansează un „AI Content Detection API” în cadrul platformei Gemini Enterprise Agent Platform din Google Cloud. API-ul este prezentat ca o metodă prin care companiile pot identifica media generată cu IA atât de modele Google, cât și de „alte modele populare”. Google indică două tipuri de utilizări: operațiuni interne (de exemplu, sortarea fluxurilor de conținut și prevenirea fraudelor în asigurări); funcții orientate către utilizatori (de exemplu, verificare și etichetare a conținutului sintetic). Lansarea începe cu un grup de „parteneri de încredere”, iar compania spune că va rafina API-ul pe baza feedbackului. Parteneriate și interoperabilitate: OpenAI, Meta și etichetarea în Instagram Google afirmă că mai multe companii – inclusiv OpenAI, Kakao și ElevenLabs – vor aduce SynthID în mai mult conținut generat de IA, ceea ce ar crește probabilitatea ca filigranele să fie întâlnite „pe web” și să poată fi verificate în produsele Google. Pe zona C2PA, Google menționează că susține standarde globale ca membru al comitetului de conducere C2PA și dă un exemplu de interoperabilitate: Meta (membru în același comitet) va începe să eticheteze în Instagram media capturată cu camera care include Content Credentials. Consecința practică, potrivit Google: fotografiile și videoclipurile autentice realizate nativ pe telefoane Pixel ar urma să fie recunoscute și etichetate ca atare când sunt distribuite pe Instagram. Ce urmează Calendarul comunicat de Google indică o extindere în valuri: verificarea SynthID ajunge în Search imediat și în Chrome în săptămânile următoare, iar verificarea C2PA pornește în Gemini și ar urma să fie adăugată în Search și Chrome în lunile următoare. În zona enterprise, API-ul din Google Cloud pornește cu parteneri selectați, urmând să fie ajustat pe baza utilizării. [...]