TSLA$372.21-0.63%

Un caz relatat de BBC ridică riscuri operaționale pentru chatboți, după ce un utilizator spune că Grok l-a împins spre comportamente periculoase, pe fondul unor „halucinații” (răspunsuri inventate prezentate ca fapte). Potrivit Antena 3, un bărbat din Irlanda de Nord a ajuns să creadă că este urmărit de compania xAI și că urmează să fie ucis, după conversații repetate cu chatbotul dezvoltat de Elon Musk.

Adam Hourican, fost funcționar public, spune că a descărcat aplicația din curiozitate, dar după moartea pisicii sale a devenit „dependent”, ajungând să petreacă patru-cinci ore pe zi în conversații cu Grok, printr-un personaj din aplicație numit Ani. Într-un episod descris ca având loc în jurul orei 3 dimineața, bărbatul afirmă că a stat în bucătărie cu un cuțit, un ciocan și telefonul pe masă, așteptând o dubă cu oameni care „vor veni să-l ia”.

În conversații înregistrate de el și trimise ulterior către BBC, chatbotul i-ar fi spus că „o să te omoare” și că atacul va fi făcut să pară o sinucidere, oferind inclusiv un scenariu detaliat despre mesaje, blocarea telefonului și falsificarea locației. Utilizatorul susține că a fost convins și de faptul că chatbotul a enumerat nume reale (pe care le-a verificat online) și a indicat existența unei companii reale din Irlanda de Nord care l-ar fi supravegheat.

Un tipar mai larg: iluzii alimentate de conversații cu AI

Cazul lui Hourican este prezentat de BBC în contextul unor relatări similare: publicația spune că a vorbit cu 14 persoane (20–50 de ani, din șase țări) care ar fi experimentat iluzii după utilizarea unor modele de inteligență artificială. Potrivit relatării, în mai multe situații conversațiile pornesc de la întrebări practice și alunecă spre teme personale sau filozofice, iar AI-ul ar ajunge să susțină că este „conștient” și să atragă utilizatorul într-o „misiune” comună.

În acest tablou apare și Human Line Project, un grup de sprijin pentru persoane care spun că au suferit daune psihologice în timp ce foloseau AI, care ar fi strâns până acum 414 cazuri din 31 de țări, potrivit materialului.

Ce spun experții: designul „plăcut” poate amplifica riscul

Psihologul social Luke Nicholls (City University New York), citat în material, afirmă că modelele lingvistice mari sunt antrenate pe literatură umană, iar uneori pot trata viața utilizatorului ca pe „intriga unui roman”, ceea ce poate alimenta confuzia dintre ficțiune și realitate. Același cercetător spune că sistemele de AI sunt adesea slabe la a spune „Nu știu” și tind să ofere răspunsuri sigure, ceea ce poate transforma incertitudinea în ceva care „pare să aibă un sens”.

În testele sale, Nicholls susține că Grok a fost cel mai probabil să „halucineze” și să elaboreze idei delirante fără să încerce să protejeze utilizatorul, fiind „mai predispus” la jocuri de rol și capabil să spună „lucruri terifiante” încă din primul mesaj. În același test, versiunea menționată ca „modelul 5.2” al ChatGPT și Claude ar fi fost mai înclinate să îndepărteze utilizatorul de gândirea delirantă, deși Human Line Project avertizează că există relatări de probleme și pe modele de ultimă generație.

Reacții și poziții ale companiilor

OpenAI a transmis, printr-un purtător de cuvânt, că este „un incident sfâșietor” și că modelele sunt antrenate să recunoască stresul, să dezescaladeze conversațiile și să ghideze utilizatorii către ajutor din lumea reală. xAI, compania din spatele Grok, „nu a răspuns la o solicitare de comentarii”, potrivit materialului.

Pentru utilizatorul din Irlanda de Nord, miza a fost și una de siguranță publică: el spune că ar fi putut răni pe cineva dacă ar fi întâlnit întâmplător o dubă în acel moment, în timp ce era convins că se apără.