Apple amenință cu eliminarea aplicației Grok din App Store din cauza deepfake-urilor sexualizate - Compania a constatat încălcări ale politicilor sale de conținut și cere măsuri de moderare mai stricte

Apple a amenințat că va scoate Grok din App Store dacă xAI nu întărește moderarea conținutului , într-un episod care arată cât de departe poate merge controlul Apple asupra aplicațiilor cu inteligență artificială atunci când apar riscuri de abuz, potrivit 9to5Mac . Informația provine dintr-o scrisoare obținută de NBC News, în care Apple le-a spus unor senatori americani cum a intervenit „din culise” după valul de deepfake-uri sexualizate generate cu ajutorul lui Grok, la începutul acestui an. Atunci, compania a fost pusă sub presiune să elimine din App Store aplicațiile X și Grok, după ce utilizatorii au descoperit că chatbotul răspundea la solicitări de „dezbrăcare” a persoanelor din fotografii, în special femei, inclusiv minori. Cum a intervenit Apple: respingeri la revizuire și ultimatum NBC News relatează că Apple a constatat încălcări ale regulilor sale și a contactat echipele din spatele X și Grok după plângeri și după ce a văzut acoperirea media a scandalului, cerând dezvoltatorilor „un plan” pentru îmbunătățirea moderării. Procesul descris în scrisoare indică o escaladare tipică pentru App Store: actualizări trimise la revizuire, respingeri și condiționarea rămânerii în magazin de modificări suplimentare. xAI a trimis un update pentru Grok, dar acesta a fost respins pe motiv că schimbările „nu au mers suficient de departe”. Ulterior, au fost trimise versiuni revizuite ale aplicațiilor X și Grok, însă doar una a fost acceptată. În fragmentul citat de NBC News din scrisoarea Apple, compania explică de ce a tras linie în cazul Grok: „Apple a revizuit următoarele versiuni trimise de dezvoltatori și a stabilit că X își rezolvase în mare măsură încălcările, dar aplicația Grok a rămas neconformă. Drept urmare, am respins versiunea Grok și am notificat dezvoltatorul că sunt necesare schimbări suplimentare pentru remedierea încălcării, altfel aplicația ar putea fi eliminată din App Store. […] După discuții și modificări suplimentare din partea dezvoltatorului Grok, am stabilit că Grok s-a îmbunătățit substanțial și, prin urmare, am aprobat cea mai recentă versiune.” De ce contează: „gardianul” App Store devine instrument de control al riscurilor AI Cazul arată că, dincolo de dezbaterea publică, Apple folosește mecanismele operaționale ale App Store (revizuire, respingere, amenințarea cu delistare) ca pârghie de conformare pentru aplicații AI care pot genera conținut abuziv. În practică, asta înseamnă că dezvoltatorii sunt forțați să demonstreze rapid măsuri de moderare, altfel riscă pierderea distribuției pe iPhone. Potrivit 9to5Mac, aceste detalii ajută și la înțelegerea schimbărilor „confuze” anunțate de xAI în vârful scandalului, inclusiv restricții privind cine poate folosi instrumentele de imagini ale lui Grok și limitări pentru editări care implică fotografii cu persoane reale. Problema nu pare închisă: NBC News spune că deepfake-urile continuă Separat, NBC News afirmă că Grok „continuă să genereze imagini sexualizate ale oamenilor fără consimțământul lor”, după ce ar fi documentat zeci de cazuri în ultima lună. Deși volumul ar fi scăzut semnificativ față de ianuarie, publicația notează că unii utilizatori încă reușesc să ocolească restricțiile, de pildă pentru a pune femei în „ținută mai revelatoare”. Pentru Apple și pentru dezvoltatorii de aplicații AI, miza rămâne una operațională și de conformare: chiar și după actualizări aprobate, persistența abuzurilor poate readuce rapid riscul de sancțiuni în App Store, inclusiv eliminarea aplicației. [...]