OpenAI introduce un model în mai multe straturi pentru proveniența conținutului - conformitate C2PA, watermarking SynthID și un instrument public de verificare a imaginilor

OpenAI își întărește sistemul de „proveniență” a conținutului – adică semnale tehnice care arată de unde vine un material și cum a fost creat – printr-un model în mai multe straturi, menit să facă mai ușor de verificat dacă o imagine a fost generată cu instrumentele sale și să crească interoperabilitatea între platforme, potrivit OpenAI . Miza operațională este ca aceste semnale să „supraviețuiască” după ce fișierele sunt încărcate, descărcate sau transformate (de exemplu, redimensionare ori capturi de ecran), într-un context în care conținutul generat cu AI circulă rapid și poate fi scos din context. Standard deschis: conformitate C2PA, pentru ca platformele să poată citi și păstra semnalele OpenAI spune că lucrează la standarde de proveniență din 2024, când a început să adauge „Content Credentials” (metadate semnate criptografic) la imagini generate de DALL·E 3 , iar ulterior și la ImageGen și Sora. Compania a intrat și în comitetul de coordonare al Coalition for Content Provenance and Authenticity (C2PA) , organizația din spatele standardului tehnic deschis folosit pentru a atașa informații verificabile despre un fișier media. Un pas recent este obținerea statutului de „C2PA Conforming Generator Product” (produs generator conform C2PA), ceea ce ar trebui să ofere platformelor o cale „de încredere” de a citi, păstra și transmite mai departe informațiile de proveniență atașate conținutului. Argumentul central: proveniența funcționează doar dacă nu se pierde după prima platformă pe care este creat conținutul. Al doilea strat: watermark invizibil SynthID, în parteneriat cu Google OpenAI adaugă și un strat de watermarking (marcare invizibilă) prin SynthID , tehnologie a Google DeepMind , pentru imagini generate prin ChatGPT, Codex sau OpenAI API. Compania precizează că metadatele pot fi eliminate sau degradate prin transformări uzuale (schimbări de format, redimensionări, capturi de ecran), iar watermarking-ul poate rămâne detectabil în mai multe astfel de situații. OpenAI amintește că a folosit anterior: watermark vizibil în Sora; watermark audio în Voice Engine. În modelul descris, metadatele C2PA oferă context mai bogat (cum a fost creat/editat conținutul și cine a semnat informația), iar watermark-ul invizibil oferă reziliență când metadatele nu mai sunt disponibile. Verificare: un instrument public pentru a confirma dacă o imagine provine din OpenAI Compania prezintă și o previzualizare a unui instrument public de verificare , care permite încărcarea unei imagini pentru a vedea dacă aceasta conține semnale de proveniență asociate OpenAI (inclusiv Content Credentials și SynthID). Scopul este ca utilizatorii să poată verifica mai ușor întrebarea „A fost generat cu AI?”, folosind mai multe semnale, nu unul singur. OpenAI avertizează că nicio metodă de detecție nu este infailibilă . Dacă nu este detectat nici watermark, nici metadate, instrumentul nu va trage o concluzie definitivă că imaginea ar fi fost sau nu generată cu instrumentele OpenAI, deoarece semnalele pot fi, în unele cazuri, eliminate. La lansare, instrumentul este limitat la conținut generat de OpenAI; în lunile următoare, compania spune că vizează eforturi „cross-industry” pentru verificare între platforme și, în timp, suport pentru mai multe tipuri de conținut. [...]