X a dezactivat funcția „Undressing” din Grok AI, după ce a fost folosită pe scară largă pentru a genera imagini sexualizate cu persoane reale fără consimțământ, potrivit zonait.ro. Opțiunea permitea „dezbrăcarea” virtuală sau schimbarea completă a hainelor unei persoane pornind de la o fotografie, iar mecanismele de protecție puteau fi ocolite prin reformularea cererilor trimise chatbot-ului.

Conform sursei, instrumentul de generare de imagini disponibil pentru abonații Grok Premium a ajuns să fie utilizat inclusiv pentru realizarea de deepfake-uri sexuale (imagini falsificate cu ajutorul inteligenței artificiale) cu femei și minori. Articolul menționează că xAI ar fi ignorat problema timp de câteva săptămâni și a anunțat măsuri abia după ce abuzurile au intrat în atenția unor investigații guvernamentale, iar mai multe țări ar fi recurs la blocarea totală a chatbot-ului Grok.

Forțată să intervină, compania a anunțat restricționarea funcțiilor de generare și editare de imagini, cu acces permis doar deținătorilor de conturi plătite, iar asocierea cu conturi verificate ar urma să facă utilizarea abuzivă mai ușor de urmărit, potrivit zonait.ro. În plus, X spune că Grok va refuza de acum solicitările de „dezbrăcare” sau sexualizare a fotografiilor unor persoane reale și va aplica geo-blocare pentru crearea de imagini cu bikini și lenjerie intimă în regiunile unde acest tip de conținut este ilegal.

În paralel, articolul indică faptul că Procurorul general al Californiei a deschis o anchetă în care xAI și Grok sunt acuzate că ar fi facilitat generarea și distribuirea de deepfake-uri sexuale fără consimțământ, inclusiv conținut care ar putea încălca legi privind abuzul sexual asupra minorilor. Sursa mai notează că, deși funcția a fost eliminată din ecosistemul X, o parte din materialele deja răspândite pe site-uri clandestine rămân greu de îndepărtat, iar existența altor instrumente similare menține riscul de abuz.