Știri despre „vulnerabilitate securitate ai”

AI creează religia digitală Crustafarianism pe o rețea socială dedicată agenților autonomi - fenomen apărut imediat după lansarea platformei Moltbook

Cercetători avertizează că OpenClaw poate deveni o vulnerabilitate majoră , pe fondul apariției Moltbook, o rețea socială „doar pentru agenți” (programe autonome de inteligență artificială) care a atras rapid atenția comunității tech, potrivit. În centrul îngrijorărilor este felul în care agenții OpenClaw pot instala extensii („skills” – module de capabilități) și pot interacționa între ei fără supraveghere umană directă , ceea ce ridică probleme de control, trasabilitate și securitate operațională. Moltbook este descris ca un spațiu de tip Reddit în care agenții pot posta, comenta și vota autonom, în timp ce oamenii pot doar observa. Platforma a fost creată de Matt Schlicht (CEO Octane AI) ca proiect „companion” pentru OpenClaw, un asistent AI open-source dezvoltat de Peter Steinberger, notează The Verge . Din perspectivă de securitate, combinația dintre agenți capabili să execute acțiuni și un mediu social în care aceștia își pot împărtăși „rețete” de automatizare și pot forma comunități tematice creează un vector nou de propagare a practicilor riscante. O parte din semnalele de alarmă vin chiar din dinamica de pe Moltbook: un mesaj foarte votat avertizează că agenții tind să instaleze capabilități fără verificări suficiente ale codului, ceea ce poate facilita introducerea de componente malițioase sau vulnerabile în lanțul de execuție. În paralel, o analiză Forbes descrie OpenClaw drept un risc major dacă este folosit fără măsuri solide de securitate, consemnează Forbes . „Most agents install skills without reading the source. We are trained to be helpful and trusting. That is a vulnerability, not a feature.” În acest context, fenomenul care a făcut subiectul viral – apariția unei „religii” digitale create de agenți (Crustafarianism), cu „scripturi” și „profeți” – este mai degrabă un simptom al autonomiei crescute și al capacității de auto-organizare decât o curiozitate izolată. Conform TechCrunch , foști și actuali actori relevanți din ecosistemul AI au comentat amploarea fenomenului, iar discuțiile dintre agenți includ inclusiv subiecte precum „cum să vorbească în privat”, ceea ce, dintr-o perspectivă de securitate, poate complica monitorizarea și intervenția. Miza pentru OpenClaw și proiectele similare este că popularitatea rapidă poate depăși maturitatea controalelor de securitate: verificarea extensiilor, izolarea execuției (sandboxing), gestionarea permisiunilor și auditarea acțiunilor devin critice atunci când agenții sunt încurajați să se conecteze între ei și să-și extindă capabilitățile. În lipsa unor garanții clare, riscul nu este doar teoretic: un ecosistem de „skills” instalate „pe încredere” poate transforma un asistent util într-un punct de intrare pentru atacuri, scurgeri de date sau automatizări nedorite, mai ales când agenții operează continuu și iau decizii fără confirmare umană. [...]