Anthropic spune că a depistat folosirea modelelor Claude în operațiuni de supraveghere ale unor state - raportul indică automatizarea analizelor și reducerea costurilor pentru aparatul de spionaj

Inteligența artificială reduce costurile și timpul necesare supravegherii de stat , permițând automatizarea unor activități care înainte cereau echipe întregi de analiști, potrivit Digi24 . Un raport al companiei Anthropic arată că modele din familia Claude au fost folosite în operațiuni legate de guverne din China, Mali și Iran pentru analiză de date, întocmire de dosare și identificarea potențialelor ținte. Informația contează pentru că scade „bariera de intrare” în supraveghere: pe măsură ce modelele AI devin mai performante, guvernele interesate să monitorizeze disidenți, politicieni, jurnaliști sau activiști pot face acest lucru mai rapid și mai ieftin, cu mai puțini oameni și procese mai standardizate. Cum se traduce automatizarea în operațiuni concrete Raportul citat indică mai multe tipuri de utilizări ale modelelor Claude în activități de supraveghere: Mali : un consultant care lucra pentru autorități din zona securității naționale ar fi folosit Claude pentru a crea un sistem care colectează date de la operatorii de telefonie mobilă și întocmește dosare despre persoane . Iran : actori iranieni ar fi folosit Claude pentru a crea și implementa o extensie malițioasă pentru Firefox , care „colecta identitățile utilizatorilor de pe rețelele sociale”. China : un serviciu de informații pentru afaceri religioase și-ar fi redus operațiunile de la „mai multe echipe de analiști” la „un singur birou” care folosește un asistent AI pentru mii de investigații pe lună . Tot în China, autoritățile ar fi folosit Claude pentru a analiza date din rețele sociale, a evalua sensibilitatea politică a postărilor și a selecta ținte pentru ceea ce numeau „control”, care putea include interogatorii coercitive sau monitorizare mai strictă a deplasărilor și comunicațiilor. De ce nu e nevoie de cele mai noi modele pentru efecte mari Un element relevant operațional este că, potrivit raportului, guvernele nu ar fi avut nevoie de acces la cele mai performante modele pentru a-și extinde semnificativ supravegherea. Cazurile descrise ar fi implicat Claude Haiku, Sonnet sau Opus, nu modelele mai noi din clasele Fable sau Mythos. Reacția furnizorului și limita măsurilor de blocare Anthropic spune că a blocat conturile asociate operațiunilor identificate și că și-a întărit măsurile de protecție. Totuși, blocarea accesului la Claude nu garantează oprirea operațiunilor: Jacob Klein, șeful departamentului de informații privind amenințările din cadrul Anthropic, a declarat pentru Axios că unii actori au trecut la modele open-source după ce intervențiile companiei au creat obstacole, iar în Mali guvernul ar fi ajuns să implementeze local platforma folosind alte modele. „Statele autoritare folosesc astăzi inteligența artificială pentru supraveghere, represiune și operațiuni de influență. Nu mai este ceva ipotetic.” În esență, raportul descrie o schimbare de etapă: AI trece de la testare la utilizare curentă în aparatul de supraveghere al statelor, cu efect direct asupra costurilor, volumului de analiză și vitezei cu care pot fi generate „dosare” și liste de ținte. [...]