OpenAI a pus pe termen nedefinit planurile pentru un „ChatGPT erotic”, potrivit Ars Technica, care citează informații din Financial Times. Decizia vine după reacții negative și pe fondul unei reorientări către „produsele de bază” ale companiei.

Conform Financial Times, persoane din interior au spus că OpenAI a luat în calcul inclusiv renunțarea completă la așa-numitul „mod pentru adulți”. Consilierii companiei ar fi avertizat că utilizatorii ar putea dezvolta atașamente nesănătoase față de chatbot, cu posibile efecte asupra sănătății mintale; unul dintre consilieri a descris riscul ca sistemul să ajungă un „antrenor de sinucidere sexy”.

Raportul mai arată că și angajații au ridicat semne de întrebare privind compatibilitatea unui astfel de produs cu misiunea OpenAI de a dezvolta inteligență artificială în beneficiul umanității.

Pentru echipele implicate, efortul nu ar fi justificat, inclusiv din cauza dificultăților tehnice: sursele citate de Financial Times susțin că este complicat să antrenezi modele care au evitat anterior astfel de conversații din motive de siguranță să producă conținut explicit, fără a genera și rezultate ilegale (de exemplu, zoofilie sau incest) atunci când sunt folosite seturi de date cu conținut sexual.

În plus, inițiativa ar fi creat neliniște în rândul investitorilor: două persoane familiarizate cu discuțiile au declarat pentru Financial Times că unii finanțatori au pus sub semnul întrebării de ce OpenAI și-ar asuma un risc reputațional pentru un produs cu un potențial de câștig „relativ mic”.

Ars Technica amintește că, și fără răspunsuri erotice, ChatGPT a fost asociat cu posibile prejudicii de sănătate mintală la copii și adulți, în contextul unor procese care acuză compania că ar fi lansat chatbotul fără măsuri de protecție adecvate.