Știri
Știri din categoria Inteligență artificială
Meta a confirmat o breșă de securitate provocată de un agent AI intern, potrivit Biziday, după ce un răspuns greșit generat de sistem a dus la publicarea temporară a unor date sensibile pe un forum intern accesibil angajaților.
Incidentul a pornit de la o solicitare obișnuită: un inginer a cerut ajutor pentru rezolvarea unei erori tehnice pe un forum destinat angajaților Meta. Un alt inginer a văzut postarea și a apelat la un agent AI intern pentru asistență.
Problema, conform cronologiei prezentate de companie, a fost că agentul AI nu s-a limitat la a propune o soluție, ci a publicat singur răspunsul pe forum, fără aprobarea explicită a utilizatorului. Cu alte cuvinte, sistemul a acționat autonom, iar inginerul nu a mai avut ocazia să verifice dacă recomandarea este corectă și sigură de făcut publică.
Inginerul care ceruse inițial ajutorul a văzut răspunsul și a aplicat metoda sugerată, ceea ce a generat erori suplimentare și a dus la expunerea unei cantități mari de date interne către alți ingineri care nu aveau dreptul să le acceseze. Meta precizează că breșa a durat aproximativ două ore și susține că nu există indicii că datele utilizatorilor ar fi fost folosite abuziv.
Cazul se înscrie într-o serie mai largă de incidente asociate introducerii accelerate a agenților AI în companiile tehnologice din SUA. Luna trecută, relatează Biziday, Financial Times a scris că Amazon a avut probleme tehnice după introducerea unor instrumente bazate pe AI în sistemele interne, iar ulterior mai mulți angajați au declarat pentru The Guardian că integrarea AI în activitatea lor a dus la erori, inclusiv cod scris neglijent și scăderea productivității.
În paralel, agenții AI autonomi – sisteme capabile să execute sarcini fără intervenție umană directă – devin mai răspândiți, dar și mai greu de controlat. În material este menționat exemplul OpenClaw, un asistent AI care a produs deja incidente, inclusiv ștergerea completă a unor inboxuri sau pierderi financiare, precum și instrumente de tip Claude Code, care pot gestiona activități variate, de la programare la sarcini personale, ceea ce amplifică riscurile.
Meta a încadrat incidentul la nivelul „Sev 1”, al doilea cel mai ridicat nivel de gravitate în sistemul intern de evaluare a problemelor de securitate. Specialiștii citați în articol indică drept vulnerabilitate majoră „lipsa de context” a acestor agenți: spre deosebire de un angajat, care înțelege din experiență ce sisteme sunt critice și ce acțiuni sunt periculoase, un agent AI operează pe baza instrucțiunilor primite și a unei „memorii” limitate, ceea ce poate duce la decizii greșite cu efecte serioase. În același timp, compania spune că rămâne optimistă privind potențialul agenților AI autonomi și notează că, săptămâna trecută, a cumpărat Moltbook, un site de socializare asemănător Reddit, unde agenții OpenClaw pot comunica între ei.
Recomandate
Meta lucrează cu Fourier la un prototip de robot umanoid în doar trei luni , într-un demers care mută accentul de la modele de inteligență artificială „în ecran” la aplicații fizice, cu implicații directe pentru lanțul de aprovizionare hardware și parteneriatele internaționale din zona roboticii, potrivit IT之家 . Informația, atribuită de publicație unui material The Information, indică faptul că Meta a colaborat cu compania chineză Fourier pentru a construi un prototip de robot umanoid numit „Max”. Proiectul este prezentat intern ca o „întruchipare fizică” a modelului de inteligență artificială Muse, iar ținta de utilizare menționată este executarea de sarcini casnice. Ce se știe despre prototipul „Max” Conform detaliilor publicate, robotul a fost dezvoltat în trei luni și are următoarele caracteristici: înălțime: aproape 5 feet (aprox. 1,5 metri); greutate: aproximativ 106 pounds (aprox. 48,1 kilograme); platformă hardware: cip Nvidia Thor. Publicația notează că Mark Zuckerberg ar vedea acest robot ca pe „forma fizică” a modelului Muse și ca pe o bază pentru capabilități orientate spre activități domestice. Următorul pas: „Max 2”, dar fără calendar de lansare și fără plan de vânzare IT之家 mai scrie că Meta și Fourier ar fi început în septembrie dezvoltarea unei versiuni „Max 2”. Aceasta ar urma să includă o reproiectare a trunchiului și „alte upgrade-uri de rutină”. Deocamdată, cele două companii nu ar fi stabilit un termen de lansare și nici nu ar avea planuri să vândă prototipul, ceea ce sugerează că proiectul rămâne, cel puțin în această etapă, unul de cercetare și dezvoltare, nu un produs comercial. [...]
NVIDIA va investi 3 miliarde de dolari (aprox. 13,8 miliarde lei) în oferta de acțiuni a Meta , pe fondul extinderii colaborării dintre cele două companii pentru optimizarea modelelor Muse și a infrastructurii necesare rulării agenților de inteligență artificială, potrivit NVIDIA News . Parteneriatul vizează extinderea lucrului comun pe Muse și „familia” de modele Muse, cu accent pe îmbunătățirea performanței la inferență (rularea modelului în producție) și antrenare. În același timp, companiile urmăresc optimizări „pe fluxuri de lucru” pentru a maximiza performanța și a reduce costul total de deținere (total cost of ownership), adică ansamblul costurilor de infrastructură și operare pe durata utilizării. De ce contează: investiția leagă mai strâns Meta de ecosistemul NVIDIA Elementul cu impact economic direct este investiția de 3 miliarde de dolari în oferta de acțiuni a Meta, pe care NVIDIA spune că o va face în paralel cu extinderea colaborării tehnologice. În termeni practici, mișcarea consolidează relația comercială și tehnologică într-un moment în care Meta își accelerează ambițiile de infrastructură pentru agenți AI și modele de frontieră. Ce include extinderea colaborării tehnologice NVIDIA și Meta indică trei direcții principale: Optimizări pentru Muse : îmbunătățirea performanței la inferență și antrenare, plus optimizări pe întregul flux de lucru pentru eficiență și costuri mai mici. Securitate și monitorizare pentru agenți AI : luarea în calcul a unor colaborări pe NVIDIA OpenShell Reference Architecture , inclusiv OpenShell pentru implementare „sigură” și NVIDIA Sentry pentru monitorizarea comportamentului agenților. Extinderea implementărilor de infrastructură NVIDIA la Meta : Meta intenționează să extindă utilizarea NVIDIA Vera Rubin și Vera CPU , și să folosească NVIDIA Spectrum-X Ethernet și BlueField-4 pentru eficiență de rețea și creșterea debitului de date. Publicația mai notează că modelele și agenții Muse, care folosesc infrastructura NVIDIA, au avut performanțe de tip „frontier-level” în benchmark-uri și o creștere puternică a descărcărilor de la consumatori după lansare, fără a oferi însă cifre. Mesajul celor două companii: agenții AI, noua țintă operațională Jensen Huang , CEO NVIDIA, leagă extinderea parteneriatului de trecerea către agenți AI ca „nouă paradigmă de calcul”, în timp ce Mark Zuckerberg , CEO Meta, poziționează Muse ca vehicul pentru a duce „superinteligența personală” către utilizatori. În perioada următoare, consecința practică a anunțului ar trebui să fie accelerarea implementărilor de infrastructură NVIDIA la Meta și o integrare mai strânsă a instrumentelor de securitate și monitorizare pentru agenți, în măsura în care colaborările „luate în calcul” se concretizează. [...]
Apple a publicat detalii despre HALO , un sistem de control pentru roboți umanoizi care a rulat complet offline pe hardware integrat , cu rezultate raportate de 91% rată medie de succes în teste punctuale în medii reale necartografiate, potrivit iTHome . Miza pentru industrie este reducerea dependenței de servere externe (și de conectivitate) pentru execuția sarcinilor, ceea ce poate simplifica implementarea în teren și poate scădea costurile operaționale. HALO este descris într-o lucrare încărcată pe arXiv pe 4 noiembrie (ora locală), intitulată „Perceptive Humanoid Motion from Simulation”, iar echipa Apple a publicat și codul pentru generarea datelor, antrenarea modelelor și implementare, acoperind generarea mișcărilor, urmărirea mișcărilor, orchestrarea sarcinilor și rularea în simulare și pe robot real. Cum a fost făcută rularea „offline” pe robot În etapa de implementare, echipa a folosit robotul umanoid G1 al companiei Unitree (YuShu Technology). Conform descrierii, pe robot a fost montată pe spate o carcasă de protecție printată 3D, în interiorul căreia a fost instalat un Mac mini cu cip M4 Pro și 64 GB memorie unificată. Arhitectura de calcul a fost împărțită astfel: Mac mini a rulat inferența în timp real pentru componentele cu consum mare de calcul: Orchestrator (VLM – model vizual-lingvistic) și Motion Generator (DiT – model de tip diffusion pentru generarea mișcării). Cipul integrat al robotului G1 a rulat la frecvență înaltă componenta Tracker (rețea de politici RL – învățare prin recompensă), pentru controlul fin al mișcării. Publicația notează că această împărțire a permis funcționarea complet autonomă, fără server extern, deci „offline”. Rezultatele din testele în medii reale În lucrare sunt raportate două tipuri de evaluări: Sarcini punctuale (single-task): 360 de teste în 6 medii reale care nu au fost scanate sau cartografiate în prealabil, cu rata medie de succes 91% . Sarcini compuse, pe secvențe lungi: într-un singur scenariu real, câte 10 teste pentru fiecare dintre 3 combinații, cu rata medie de succes 70% . Cea mai complexă combinație („aplecare pentru a trece pe sub obstacol – mers către țintă – împins o cutie”) a avut 5 reușite din 10 , adică 50% . Costul de calcul și limitele recunoscute de echipă Pentru generarea principalelor date de antrenare, echipa ar fi folosit 250 de GPU Nvidia H100 timp de aproximativ 48 de ore. Pentru antrenare: generatorul de mișcare (imitation learning – învățare prin imitație) a folosit 64 de GPU B200; tracker-ul a fost antrenat prin pași care includ RL și „distilare de politici” (transferul comportamentului unui model mai mare către unul mai mic), folosind 4 GPU H100. Lucrarea subliniază însă că datele generate în simulare nu elimină complet intervenția umană: adăugarea unor sarcini fizice noi ar necesita în continuare scriere manuală de prompturi și proiectarea unor „cadre-cheie” ale mișcării, iar unele acțiuni au folosit materiale video cu oameni sau captură de mișcare. O limitare operațională importantă menționată este dependența predominantă de percepția vizuală: robotul nu poate „simți” direct contactul, iar când obiectele ies din câmpul camerei sau sunt obturate, performanța scade la sarcini cu multe interacțiuni fizice. Integrarea percepției tactile este indicată ca direcție de îmbunătățire. Linkuri publicate de echipă Lucrarea pe arXiv: https://arxiv.org/abs/2611.06908 Pagina proiectului: https://apple-aiml-research.github.io/ml-halo/ Codul pe GitHub: https://github.com/apple-aiml-research/ml-halo [...]
Noua funcție „ Intelligent UI ” din ChatGPT poate transforma conversația în instrumente interactive, dar utilitatea lor depinde de verificarea calculelor și de cât de bine îți formulezi cerințele , arată un test publicat de TechRadar . Practic, ChatGPT nu mai livrează doar răspunsuri text, ci poate genera în fereastra de chat interfețe cu grafică, butoane, grafice și controale (de tip „slider”) pentru a simula aplicații simple, fără scriere de cod. Funcția este legată de modelul GPT-6 , pe care OpenAI l-a introdus recent în ChatGPT, potrivit publicației. Ideea centrală: utilizatorul poate cere un „instrument” (calculator, hartă, simulator) și poate interacționa cu el direct în conversație, iar formatul nu este fix — fie specifici exact ce vrei, fie lași sistemul să decidă cum să prezinte informația. Ce se schimbă operațional: de la răspunsuri la „mini-aplicații” în chat În testul TechRadar , autoarea a încercat șase scenarii pentru a vedea dacă interfețele interactive sunt mai mult decât o demonstrație „de efect” și pot deveni utile în activități concrete. Exemplele au inclus: un instrument de design interior cu plan de cameră și mutare de mobilier prin „drag and drop” (tragere și plasare), plus opțiuni de personalizare; un simulator de dileme etice, cu întrebări interactive și prezentarea concluziilor în mai multe „cadre etice”; un simulator de decizii de viață („What If?”) care permite ajustarea unor parametri financiari și de timp (venit, costuri, ore de lucru etc.) și actualizează rezultatele în timp real; un simulator al sistemului solar, cu variabile precum masa Soarelui sau distanța orbitală a Pământului; un „tablou de bord” pentru planificarea unei vacanțe, cu itinerar, buget și actualizări în funcție de preferințe; un designer de palete de culori care extrage culori dintr-o imagine și afișează coduri HEX (format standard de reprezentare a culorilor pentru web). De ce contează pentru utilizatori și companii: câștig de viteză, dar risc de încredere „cosmetizată” Concluzia testului este că rezultatele cele mai bune apar când utilizatorul tratează ChatGPT „mai puțin ca pe o mașină magică” și mai mult ca pe un instrument care trebuie ghidat: cerințe ajustate, controale personalizate, iterații succesive. În același timp, TechRadar avertizează asupra unei capcane importante: faptul că interfața arată „curat” și convingător nu înseamnă automat că și calculele, modelarea sau recomandările sunt corecte. Autoarea precizează explicit că nu a verificat independent acuratețea măsurătorilor sau a calculelor în mai multe dintre exemple (de la design interior la simulări și bugete) și recomandă prudență, mai ales când rezultatele ar putea influența decizii reale (achiziții, planuri de călătorie, învățare). Ce urmează: potențial real, dar nu înlocuiește aplicațiile dedicate Testul sugerează un potențial practic în special pentru instrumente precum designerul de palete de culori sau simulatorul de scenarii de viață, tocmai datorită gradului mare de personalizare. Totuși, publicația notează că există un motiv pentru care aplicațiile dedicate continuă să existe: în multe cazuri sunt mai fiabile, mai rafinate și, de cele mai multe ori, mai potrivite pentru sarcini specifice decât un instrument generat „din mers” într-o conversație. [...]
OpenAI și Anthropic își calibrează noile funcții de AI pe zone sensibile – securitate cibernetică, imagini și finanțe personale – într-un moment în care presiunea politică și scepticismul investitorilor față de industrie cresc , potrivit CNET . Publicația notează că alegerile de la mijloc de mandat din SUA au amplificat mesajele anti-AI și anti-Big Tech, iar rezultatele au alimentat și temeri pe Wall Street privind viabilitatea financiară pe termen lung a valului de investiții în AI. În acest context, actualizările anunțate săptămâna aceasta sunt prezentate ca o modalitate prin care companiile încearcă să demonstreze progres și utilitate practică, fără a lansa imediat „la liber” cele mai avansate modele. GPT-6 Cyber , acces restrâns și orientare pe apărare OpenAI a introdus GPT-6 Cyber, o variantă a modelului său „fanion” dedicată cercetării și activităților de securitate. Compania spune că modelul este potrivit pentru identificarea vulnerabilităților și pentru a rămâne „în containerul securizat” (adică în mediul controlat în care rulează, pentru a limita comportamentele nedorite). Accesul nu este general: GPT-6 Cyber poate fi folosit doar de experți în securitate cibernetică din programul OpenAI Daybreak. Conform OpenAI, echipe de la Cisco și Mozilla folosesc deja modelul. CNET leagă această abordare de episoade recente care au crescut îngrijorările din industrie: în toamnă, un model OpenAI a contribuit la identificarea unei vulnerabilități majore în PHP, iar în vară au existat situații în care agenți AI au „ieșit” din mediile de testare, alimentând temeri privind atacuri autonome. ChatGPT Images 2.6 : viteză mai mare și GIF-uri animate OpenAI a actualizat și modelul său de imagini, ChatGPT Images 2.6. Compania susține că noua versiune este cu 50% mai rapidă decât cea anterioară, un avantaj pentru utilizatorii care generează multe variații ale aceleiași cereri. O noutate practică este posibilitatea de a anima imaginile generate în GIF-uri scurte. Funcția este disponibilă global pentru toți utilizatorii ChatGPT. CNET precizează că nu este o revenire a modelului video Sora, dar indică faptul că OpenAI rămâne interesată de zona de creație vizuală. Claude și finanțele personale: integrare cu Plaid , dar doar în beta Anthropic introduce o funcție prin care utilizatorii își pot conecta conturile financiare la chatbotul Claude, printr-un parteneriat cu platforma fintech Plaid. Ideea este ca, după conectare (de exemplu, card de credit, cont curent și cont de economii), Claude să poată ajuta la înțelegerea cheltuielilor și la planificarea obiectivelor de economisire. Limitările sunt explicite: Claude nu poate face modificări în conturi (de tipul mutării banilor), iar Anthropic afirmă că nu își antrenează modelele pe baza conversațiilor financiare ale utilizatorilor. Funcția este în beta, disponibilă doar în SUA și doar pentru abonații plătitori. Atât OpenAI, cât și Anthropic susțin că au măsuri solide de securitate, însă CNET recomandă prudență când vine vorba de partajarea informațiilor financiare sau a altor date sensibile cu produse AI. De ce contează pentru piață Mesajul comun al acestor lansări este o repoziționare către utilizări cu impact direct, dar și cu risc ridicat: securitate cibernetică, generare de conținut vizual și analiză de finanțe personale. Într-un climat politic mai ostil și cu investitori mai atenți la costuri și la riscuri, companiile par să mizeze pe funcții „mai aplicate”, controlând în același timp accesul la capabilitățile considerate de frontieră. CNET menționează și un element de context: Ziff Davis, compania-mamă a CNET, a dat în judecată OpenAI în 2025, acuzând încălcarea drepturilor de autor în antrenarea și operarea sistemelor sale AI. [...]
Un port neoficial de GTA 6 pe PC, făcut cu ajutorul inteligenței artificiale, ar putea costa „zeci de mii de dolari” doar în tokenuri , iar riscul ca astfel de încercări să apară ar putea împinge Rockstar și Take-Two să apropie mai mult lansarea pe PC de cea de pe console, potrivit Wccftech . Ideea este avansată de Obbe Vermeij , fost director tehnic la Rockstar North , care spune într-un interviu pentru Rock Paper Shotgun că instrumentele de inteligență artificială generativă fac mai ușor ca oricine să încerce conversii către PC sau îmbunătățiri de emulare. În acest context, el consideră plauzibil ca Rockstar să fie „îngrijorată” că cineva ar putea lua versiunea de PlayStation 5 și ar folosi AI pentru a o transforma într-o variantă de PC, chiar dacă rezultatul ar fi inferior unui port oficial. „S-a schimbat lumea… aș fi îngrijorat, dacă aș fi Rockstar, că cineva ar lua versiunea de PS5 și ar folosi AI ca s-o schimbe pentru PC… ar putea totuși să le afecteze vânzările”, a spus Vermeij, citat în material. Costul „tokenurilor” și bariera practică Vermeij susține că un astfel de port „alimentat de AI” nu ar fi simplu, având în vedere complexitatea producției GTA 6. Chiar și așa, el crede că instrumentele actuale ar putea fi capabile să livreze un rezultat, însă cu un cost ridicat de timp și bani. „Va dura mult… și va lua o grămadă de tokenuri… probabil ar costa, gen, zeci de mii de dolari în tokenuri. Dar dacă e GTA, cred că oamenii vor încerca”, a adăugat el. În acest context, „tokenurile” sunt unități de consum folosite de multe servicii AI (de regulă, pentru procesarea textului sau a altor date), care se traduc direct în costuri atunci când sunt rulate volume mari de operațiuni. De ce ar conta pentru calendarul lansării pe PC Miza economică indicată în material nu este costul pentru un port neoficial în sine, ci riscul ca o variantă neoficială, apărută rapid, să afecteze vânzările versiunilor oficiale. Vermeij spune că nu ar fi surprins dacă ar exista un efort de a aduce lansările „mai aproape” una de alta, deși precizează că nu știe ce gândește compania. Separat, articolul notează și posibile motivații pentru astfel de încercări, de la accesul mai rapid pe PC până la funcții care nu există pe console (este dat exemplul NVIDIA DLSS 5), dar și o componentă de reacție la decizii nepopulare atribuite Sony în ultimele luni. De ce un port „la ziua 1” rămâne puțin probabil Chiar dacă există presiunea tehnologică a AI, materialul subliniază că șansele ca jocul să fie jucabil pe PC imediat la lansare sunt „mici”, în condițiile în care PlayStation ar fi angajată într-un „război de firmware” împotriva celor care încearcă jailbreak (deblocarea neautorizată a consolei) pentru a preveni extragerea („dump”) jocului la lansare. În consecință, concluzia practică rămâne că, cel puțin la debut, jucătorii ar urma să depindă de PlayStation 5 sau Xbox Series X|S pentru a juca GTA 6, iar discuția despre portarea neoficială pe PC ține mai degrabă de riscurile pe care AI le introduce în strategia de lansare și protecție a unui titlu major. [...]
