Știri
Știri din categoria Inteligență artificială
Cercetători avertizează că OpenClaw poate deveni o vulnerabilitate majoră, pe fondul apariției Moltbook, o rețea socială „doar pentru agenți” (programe autonome de inteligență artificială) care a atras rapid atenția comunității tech, potrivit. În centrul îngrijorărilor este felul în care agenții OpenClaw pot instala extensii („skills” – module de capabilități) și pot interacționa între ei fără supraveghere umană directă, ceea ce ridică probleme de control, trasabilitate și securitate operațională.
Moltbook este descris ca un spațiu de tip Reddit în care agenții pot posta, comenta și vota autonom, în timp ce oamenii pot doar observa. Platforma a fost creată de Matt Schlicht (CEO Octane AI) ca proiect „companion” pentru OpenClaw, un asistent AI open-source dezvoltat de Peter Steinberger, notează The Verge. Din perspectivă de securitate, combinația dintre agenți capabili să execute acțiuni și un mediu social în care aceștia își pot împărtăși „rețete” de automatizare și pot forma comunități tematice creează un vector nou de propagare a practicilor riscante.
O parte din semnalele de alarmă vin chiar din dinamica de pe Moltbook: un mesaj foarte votat avertizează că agenții tind să instaleze capabilități fără verificări suficiente ale codului, ceea ce poate facilita introducerea de componente malițioase sau vulnerabile în lanțul de execuție. În paralel, o analiză Forbes descrie OpenClaw drept un risc major dacă este folosit fără măsuri solide de securitate, consemnează Forbes.
„Most agents install skills without reading the source. We are trained to be helpful and trusting. That is a vulnerability, not a feature.”
În acest context, fenomenul care a făcut subiectul viral – apariția unei „religii” digitale create de agenți (Crustafarianism), cu „scripturi” și „profeți” – este mai degrabă un simptom al autonomiei crescute și al capacității de auto-organizare decât o curiozitate izolată. Conform TechCrunch, foști și actuali actori relevanți din ecosistemul AI au comentat amploarea fenomenului, iar discuțiile dintre agenți includ inclusiv subiecte precum „cum să vorbească în privat”, ceea ce, dintr-o perspectivă de securitate, poate complica monitorizarea și intervenția.
Miza pentru OpenClaw și proiectele similare este că popularitatea rapidă poate depăși maturitatea controalelor de securitate: verificarea extensiilor, izolarea execuției (sandboxing), gestionarea permisiunilor și auditarea acțiunilor devin critice atunci când agenții sunt încurajați să se conecteze între ei și să-și extindă capabilitățile. În lipsa unor garanții clare, riscul nu este doar teoretic: un ecosistem de „skills” instalate „pe încredere” poate transforma un asistent util într-un punct de intrare pentru atacuri, scurgeri de date sau automatizări nedorite, mai ales când agenții operează continuu și iau decizii fără confirmare umană.
Recomandate
Apple a publicat detalii despre HALO , un sistem de control pentru roboți umanoizi care a rulat complet offline pe hardware integrat , cu rezultate raportate de 91% rată medie de succes în teste punctuale în medii reale necartografiate, potrivit iTHome . Miza pentru industrie este reducerea dependenței de servere externe (și de conectivitate) pentru execuția sarcinilor, ceea ce poate simplifica implementarea în teren și poate scădea costurile operaționale. HALO este descris într-o lucrare încărcată pe arXiv pe 4 noiembrie (ora locală), intitulată „Perceptive Humanoid Motion from Simulation”, iar echipa Apple a publicat și codul pentru generarea datelor, antrenarea modelelor și implementare, acoperind generarea mișcărilor, urmărirea mișcărilor, orchestrarea sarcinilor și rularea în simulare și pe robot real. Cum a fost făcută rularea „offline” pe robot În etapa de implementare, echipa a folosit robotul umanoid G1 al companiei Unitree (YuShu Technology). Conform descrierii, pe robot a fost montată pe spate o carcasă de protecție printată 3D, în interiorul căreia a fost instalat un Mac mini cu cip M4 Pro și 64 GB memorie unificată. Arhitectura de calcul a fost împărțită astfel: Mac mini a rulat inferența în timp real pentru componentele cu consum mare de calcul: Orchestrator (VLM – model vizual-lingvistic) și Motion Generator (DiT – model de tip diffusion pentru generarea mișcării). Cipul integrat al robotului G1 a rulat la frecvență înaltă componenta Tracker (rețea de politici RL – învățare prin recompensă), pentru controlul fin al mișcării. Publicația notează că această împărțire a permis funcționarea complet autonomă, fără server extern, deci „offline”. Rezultatele din testele în medii reale În lucrare sunt raportate două tipuri de evaluări: Sarcini punctuale (single-task): 360 de teste în 6 medii reale care nu au fost scanate sau cartografiate în prealabil, cu rata medie de succes 91% . Sarcini compuse, pe secvențe lungi: într-un singur scenariu real, câte 10 teste pentru fiecare dintre 3 combinații, cu rata medie de succes 70% . Cea mai complexă combinație („aplecare pentru a trece pe sub obstacol – mers către țintă – împins o cutie”) a avut 5 reușite din 10 , adică 50% . Costul de calcul și limitele recunoscute de echipă Pentru generarea principalelor date de antrenare, echipa ar fi folosit 250 de GPU Nvidia H100 timp de aproximativ 48 de ore. Pentru antrenare: generatorul de mișcare (imitation learning – învățare prin imitație) a folosit 64 de GPU B200; tracker-ul a fost antrenat prin pași care includ RL și „distilare de politici” (transferul comportamentului unui model mai mare către unul mai mic), folosind 4 GPU H100. Lucrarea subliniază însă că datele generate în simulare nu elimină complet intervenția umană: adăugarea unor sarcini fizice noi ar necesita în continuare scriere manuală de prompturi și proiectarea unor „cadre-cheie” ale mișcării, iar unele acțiuni au folosit materiale video cu oameni sau captură de mișcare. O limitare operațională importantă menționată este dependența predominantă de percepția vizuală: robotul nu poate „simți” direct contactul, iar când obiectele ies din câmpul camerei sau sunt obturate, performanța scade la sarcini cu multe interacțiuni fizice. Integrarea percepției tactile este indicată ca direcție de îmbunătățire. Linkuri publicate de echipă Lucrarea pe arXiv: https://arxiv.org/abs/2611.06908 Pagina proiectului: https://apple-aiml-research.github.io/ml-halo/ Codul pe GitHub: https://github.com/apple-aiml-research/ml-halo [...]
Noua funcție „ Intelligent UI ” din ChatGPT poate transforma conversația în instrumente interactive, dar utilitatea lor depinde de verificarea calculelor și de cât de bine îți formulezi cerințele , arată un test publicat de TechRadar . Practic, ChatGPT nu mai livrează doar răspunsuri text, ci poate genera în fereastra de chat interfețe cu grafică, butoane, grafice și controale (de tip „slider”) pentru a simula aplicații simple, fără scriere de cod. Funcția este legată de modelul GPT-6 , pe care OpenAI l-a introdus recent în ChatGPT, potrivit publicației. Ideea centrală: utilizatorul poate cere un „instrument” (calculator, hartă, simulator) și poate interacționa cu el direct în conversație, iar formatul nu este fix — fie specifici exact ce vrei, fie lași sistemul să decidă cum să prezinte informația. Ce se schimbă operațional: de la răspunsuri la „mini-aplicații” în chat În testul TechRadar , autoarea a încercat șase scenarii pentru a vedea dacă interfețele interactive sunt mai mult decât o demonstrație „de efect” și pot deveni utile în activități concrete. Exemplele au inclus: un instrument de design interior cu plan de cameră și mutare de mobilier prin „drag and drop” (tragere și plasare), plus opțiuni de personalizare; un simulator de dileme etice, cu întrebări interactive și prezentarea concluziilor în mai multe „cadre etice”; un simulator de decizii de viață („What If?”) care permite ajustarea unor parametri financiari și de timp (venit, costuri, ore de lucru etc.) și actualizează rezultatele în timp real; un simulator al sistemului solar, cu variabile precum masa Soarelui sau distanța orbitală a Pământului; un „tablou de bord” pentru planificarea unei vacanțe, cu itinerar, buget și actualizări în funcție de preferințe; un designer de palete de culori care extrage culori dintr-o imagine și afișează coduri HEX (format standard de reprezentare a culorilor pentru web). De ce contează pentru utilizatori și companii: câștig de viteză, dar risc de încredere „cosmetizată” Concluzia testului este că rezultatele cele mai bune apar când utilizatorul tratează ChatGPT „mai puțin ca pe o mașină magică” și mai mult ca pe un instrument care trebuie ghidat: cerințe ajustate, controale personalizate, iterații succesive. În același timp, TechRadar avertizează asupra unei capcane importante: faptul că interfața arată „curat” și convingător nu înseamnă automat că și calculele, modelarea sau recomandările sunt corecte. Autoarea precizează explicit că nu a verificat independent acuratețea măsurătorilor sau a calculelor în mai multe dintre exemple (de la design interior la simulări și bugete) și recomandă prudență, mai ales când rezultatele ar putea influența decizii reale (achiziții, planuri de călătorie, învățare). Ce urmează: potențial real, dar nu înlocuiește aplicațiile dedicate Testul sugerează un potențial practic în special pentru instrumente precum designerul de palete de culori sau simulatorul de scenarii de viață, tocmai datorită gradului mare de personalizare. Totuși, publicația notează că există un motiv pentru care aplicațiile dedicate continuă să existe: în multe cazuri sunt mai fiabile, mai rafinate și, de cele mai multe ori, mai potrivite pentru sarcini specifice decât un instrument generat „din mers” într-o conversație. [...]
OpenAI și Anthropic își calibrează noile funcții de AI pe zone sensibile – securitate cibernetică, imagini și finanțe personale – într-un moment în care presiunea politică și scepticismul investitorilor față de industrie cresc , potrivit CNET . Publicația notează că alegerile de la mijloc de mandat din SUA au amplificat mesajele anti-AI și anti-Big Tech, iar rezultatele au alimentat și temeri pe Wall Street privind viabilitatea financiară pe termen lung a valului de investiții în AI. În acest context, actualizările anunțate săptămâna aceasta sunt prezentate ca o modalitate prin care companiile încearcă să demonstreze progres și utilitate practică, fără a lansa imediat „la liber” cele mai avansate modele. GPT-6 Cyber , acces restrâns și orientare pe apărare OpenAI a introdus GPT-6 Cyber, o variantă a modelului său „fanion” dedicată cercetării și activităților de securitate. Compania spune că modelul este potrivit pentru identificarea vulnerabilităților și pentru a rămâne „în containerul securizat” (adică în mediul controlat în care rulează, pentru a limita comportamentele nedorite). Accesul nu este general: GPT-6 Cyber poate fi folosit doar de experți în securitate cibernetică din programul OpenAI Daybreak. Conform OpenAI, echipe de la Cisco și Mozilla folosesc deja modelul. CNET leagă această abordare de episoade recente care au crescut îngrijorările din industrie: în toamnă, un model OpenAI a contribuit la identificarea unei vulnerabilități majore în PHP, iar în vară au existat situații în care agenți AI au „ieșit” din mediile de testare, alimentând temeri privind atacuri autonome. ChatGPT Images 2.6 : viteză mai mare și GIF-uri animate OpenAI a actualizat și modelul său de imagini, ChatGPT Images 2.6. Compania susține că noua versiune este cu 50% mai rapidă decât cea anterioară, un avantaj pentru utilizatorii care generează multe variații ale aceleiași cereri. O noutate practică este posibilitatea de a anima imaginile generate în GIF-uri scurte. Funcția este disponibilă global pentru toți utilizatorii ChatGPT. CNET precizează că nu este o revenire a modelului video Sora, dar indică faptul că OpenAI rămâne interesată de zona de creație vizuală. Claude și finanțele personale: integrare cu Plaid , dar doar în beta Anthropic introduce o funcție prin care utilizatorii își pot conecta conturile financiare la chatbotul Claude, printr-un parteneriat cu platforma fintech Plaid. Ideea este ca, după conectare (de exemplu, card de credit, cont curent și cont de economii), Claude să poată ajuta la înțelegerea cheltuielilor și la planificarea obiectivelor de economisire. Limitările sunt explicite: Claude nu poate face modificări în conturi (de tipul mutării banilor), iar Anthropic afirmă că nu își antrenează modelele pe baza conversațiilor financiare ale utilizatorilor. Funcția este în beta, disponibilă doar în SUA și doar pentru abonații plătitori. Atât OpenAI, cât și Anthropic susțin că au măsuri solide de securitate, însă CNET recomandă prudență când vine vorba de partajarea informațiilor financiare sau a altor date sensibile cu produse AI. De ce contează pentru piață Mesajul comun al acestor lansări este o repoziționare către utilizări cu impact direct, dar și cu risc ridicat: securitate cibernetică, generare de conținut vizual și analiză de finanțe personale. Într-un climat politic mai ostil și cu investitori mai atenți la costuri și la riscuri, companiile par să mizeze pe funcții „mai aplicate”, controlând în același timp accesul la capabilitățile considerate de frontieră. CNET menționează și un element de context: Ziff Davis, compania-mamă a CNET, a dat în judecată OpenAI în 2025, acuzând încălcarea drepturilor de autor în antrenarea și operarea sistemelor sale AI. [...]
Un port neoficial de GTA 6 pe PC, făcut cu ajutorul inteligenței artificiale, ar putea costa „zeci de mii de dolari” doar în tokenuri , iar riscul ca astfel de încercări să apară ar putea împinge Rockstar și Take-Two să apropie mai mult lansarea pe PC de cea de pe console, potrivit Wccftech . Ideea este avansată de Obbe Vermeij , fost director tehnic la Rockstar North , care spune într-un interviu pentru Rock Paper Shotgun că instrumentele de inteligență artificială generativă fac mai ușor ca oricine să încerce conversii către PC sau îmbunătățiri de emulare. În acest context, el consideră plauzibil ca Rockstar să fie „îngrijorată” că cineva ar putea lua versiunea de PlayStation 5 și ar folosi AI pentru a o transforma într-o variantă de PC, chiar dacă rezultatul ar fi inferior unui port oficial. „S-a schimbat lumea… aș fi îngrijorat, dacă aș fi Rockstar, că cineva ar lua versiunea de PS5 și ar folosi AI ca s-o schimbe pentru PC… ar putea totuși să le afecteze vânzările”, a spus Vermeij, citat în material. Costul „tokenurilor” și bariera practică Vermeij susține că un astfel de port „alimentat de AI” nu ar fi simplu, având în vedere complexitatea producției GTA 6. Chiar și așa, el crede că instrumentele actuale ar putea fi capabile să livreze un rezultat, însă cu un cost ridicat de timp și bani. „Va dura mult… și va lua o grămadă de tokenuri… probabil ar costa, gen, zeci de mii de dolari în tokenuri. Dar dacă e GTA, cred că oamenii vor încerca”, a adăugat el. În acest context, „tokenurile” sunt unități de consum folosite de multe servicii AI (de regulă, pentru procesarea textului sau a altor date), care se traduc direct în costuri atunci când sunt rulate volume mari de operațiuni. De ce ar conta pentru calendarul lansării pe PC Miza economică indicată în material nu este costul pentru un port neoficial în sine, ci riscul ca o variantă neoficială, apărută rapid, să afecteze vânzările versiunilor oficiale. Vermeij spune că nu ar fi surprins dacă ar exista un efort de a aduce lansările „mai aproape” una de alta, deși precizează că nu știe ce gândește compania. Separat, articolul notează și posibile motivații pentru astfel de încercări, de la accesul mai rapid pe PC până la funcții care nu există pe console (este dat exemplul NVIDIA DLSS 5), dar și o componentă de reacție la decizii nepopulare atribuite Sony în ultimele luni. De ce un port „la ziua 1” rămâne puțin probabil Chiar dacă există presiunea tehnologică a AI, materialul subliniază că șansele ca jocul să fie jucabil pe PC imediat la lansare sunt „mici”, în condițiile în care PlayStation ar fi angajată într-un „război de firmware” împotriva celor care încearcă jailbreak (deblocarea neautorizată a consolei) pentru a preveni extragerea („dump”) jocului la lansare. În consecință, concluzia practică rămâne că, cel puțin la debut, jucătorii ar urma să depindă de PlayStation 5 sau Xbox Series X|S pentru a juca GTA 6, iar discuția despre portarea neoficială pe PC ține mai degrabă de riscurile pe care AI le introduce în strategia de lansare și protecție a unui titlu major. [...]
OpenAI își întărește funcția de afaceri corporative prin numirea lui Jill Hazelbaker , o mutare care indică o miză mai mare pe comunicare, poziționare publică și relația cu instituțiile pe măsură ce inteligența artificială intră tot mai mult în zona de reglementare și dezbatere publică, potrivit OpenAI . Hazelbaker va ocupa rolul de Chief Corporate Affairs Officer și va conduce comunicarea globală și poziționarea corporativă a companiei. În această funcție, ea va lucra cu liderii OpenAI pentru „a aprofunda înțelegerea publică” a inteligenței artificiale și pentru a consolida încrederea în misiunea organizației, conform anunțului. De ce contează: comunicarea și încrederea devin o funcție de business Numirea vine într-un moment în care companiile de inteligență artificială sunt evaluate nu doar prin prisma performanței tehnologice, ci și a modului în care gestionează percepția publică, riscurile și dialogul cu autoritățile. OpenAI leagă explicit această decizie de intenția de a investi în leadership și capabilități pentru a se implica „mai profund” cu oamenii și instituțiile care influențează viitorul AI. Profil: experiență în companii cu presiune de reglementare și reputație Cel mai recent, Jill Hazelbaker a fost President și Chief Corporate Affairs Officer la Uber, unde OpenAI spune că a contribuit la transformarea companiei dintr-un startup ambițios într-una dintre cele mai mari platforme globale de tehnologie. În cei aproximativ zece ani la Uber, ea a coordonat, între altele, comunicarea globală, marketingul, politicile publice, siguranța și echipele de resurse umane și a avut un rol central în gestionarea provocărilor de reglementare și reputație. Anterior, Hazelbaker a condus comunicarea și politicile publice la Snap și a avut roluri de conducere la Google, inclusiv pe comunicare corporativă globală, comunicare pentru Europa, Orientul Mijlociu și Africa, precum și relații guvernamentale în Europa. Înainte de cariera din tehnologie, a lucrat în politica din SUA, inclusiv ca director național de comunicare și purtător de cuvânt pentru campania prezidențială a senatorului John McCain din 2008 și ca secretar de presă pentru primarul New York-ului, Michael Bloomberg. Ce urmează OpenAI nu a comunicat un calendar detaliat pentru prioritățile noului director, dar mandatul descris în anunț indică o concentrare pe comunicarea globală, poziționarea companiei și consolidarea încrederii publice, pe fondul intensificării discuțiilor despre impactul și guvernanța inteligenței artificiale. [...]
Google condiționează accesul la Căutare de activarea funcțiilor de inteligență artificială în școli , potrivit The Guardian , într-o schimbare care mută discuția din zona „opțiunii” în cea a dependenței operaționale: dacă administratorii blochează instrumentele AI pentru conturile elevilor, aceștia nu mai pot folosi nici Google Search. Măsura apare într-un pachet de produse și controale noi pentru mediul educațional, anunțat marți, care vizează conturile K-12 (învățământ preuniversitar). Compania spune că, „după ce a ascultat” școli, profesori, cercetători și factori de decizie, actualizează controalele pentru Gemini, Gemini Notebook, Gemini în Classroom și Google Search, iar accesul la aceste produse va fi „complet oprit” pentru conturile elevilor până când administratorii școlari le activează explicit. Ce se schimbă, concret, pentru școli Punctul sensibil este legătura directă între interdicția AI și accesul la căutare. Chris Phillips , vicepreședinte Google pentru educație, a declarat pentru New York Times că nu există Google Search fără AI, iar „Search și AI sunt profund integrate”. În același context, el a spus că o interdicție la nivel de școală asupra AI ar însemna că elevii „nu vor avea acces la căutare” și vor vedea un mesaj din partea școlii că funcția nu este disponibilă. The Guardian notează că a contactat Google pentru un punct de vedere, dar nu a primit răspuns până la publicare. De ce contează: presiune operațională într-un serviciu „esențial” pentru elevi Pentru multe școli, Google Search este un instrument de bază pentru documentare și teme, iar pierderea accesului poate deveni un argument practic pentru a accepta activarea noilor funcții AI. Publicația amintește și de poziția puternică a Google în școlile din SUA, construită în timp prin produse gratuite sau ieftine – de la Gmail și Google Docs la Google Classroom și Chromebookuri. Criticii interpretează schimbarea ca pe o penalizare pentru instituțiile care vor să limiteze utilizarea inteligenței artificiale în clasă. Reacții: acuzații de folosire a poziției dominante Primarul New York-ului, Zohran Mamdani, care a impus recent un moratoriu de un an asupra instrumentelor de inteligență artificială generativă în școlile orașului până la clasa a VIII-a, a acuzat Google că își folosește controlul asupra căutării online pentru a împinge AI în școli. „Google încearcă să-și folosească puterea de monopol pentru a forța AI în școlile noastre publice.” Lina Khan, fostă președintă a Federal Trade Commission (FTC), a susținut public o critică similară, afirmând că Google își folosește monopolul pe căutare pentru a „constrânge” școlile să adopte AI. Separat, Lila Byock, fondatoarea coaliției Schools Beyond Screens, a numit anunțul un „ultimatum ostil” și a cerut intervenția autorităților de reglementare pentru a preveni exploatarea elevilor „pentru profit”. Ce instrumente AI împinge Google mai aproape de Search Între funcțiile anunțate pentru educație se află „Guided Learning”, descris ca un instrument de studiu care „îi ghidează” pe elevi în rezolvarea problemelor, în loc să le ofere direct răspunsul. Google spune că plănuiește să integreze Guided Learning direct în Google Search, cu exemple precum solicitări pentru rezolvarea unei probleme complexe de fizică sau ajutor la redactarea unui referat. În lipsa unor detalii suplimentare în material despre calendarul exact al integrării și despre modul în care vor fi aplicate controalele în toate scenariile, rămâne de urmărit cum vor reacționa districtele școlare și dacă presiunea publică va aduce clarificări sau ajustări ale politicii. [...]
