Știri
Știri din categoria Inteligență artificială
NVIDIA mută infrastructura de agenți AI din centrele de date pe desktopurile cu Windows, printr-un sistem DGX Station capabil să ruleze local modele „frontier” de până la 1 trilion de parametri, cu disponibilitate anunțată pentru trimestrul IV al acestui an, potrivit NVIDIA News.
Miza operațională este reducerea dependenței de servere Linux din centrele de date pentru sarcini grele de AI (antrenare, ajustare fină, inferență la scară mare și dezvoltare multi-agent), în condițiile în care majoritatea companiilor din Fortune 500 folosesc Windows în activitatea de zi cu zi. NVIDIA poziționează DGX Station for Windows ca o punte între aceste două lumi: infrastructură de clasă „Grace Blackwell” adusă direct în ecosistemul Windows, pentru a construi, rula și conecta agenți AI la aplicațiile și fluxurile de lucru deja folosite în companii.
Sistemul este construit pe NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip, care conectează un GPU Blackwell Ultra cu un procesor NVIDIA Grace cu 72 de nuclee, prin interconectarea NVLink-C2C, pentru comunicare internă și performanță ridicată.
Conform descrierii NVIDIA, configurația include:
Pentru conectivitate, DGX Station for Windows include NVIDIA ConnectX-8 SuperNIC, cu suport de rețea de până la 800 Gb/s, pentru transferuri rapide de date și pentru conectarea mai multor sisteme între ele, în vederea rulării unor sarcini mai mari.
NVIDIA descrie o tranziție de la chatboți simpli la „inferință agentică”: agenți care rulează continuu, „raționează” în timp real și se conectează direct la aplicații și fluxuri de lucru enterprise. În acest cadru, DGX Station for Windows este prezentat ca infrastructură dedicată pentru agenți, capabilă să susțină local modele de până la 1 trilion de parametri și să ruleze „sute de agenți” în paralel.
În paralel, compania leagă această direcție de colaborarea cu Microsoft, inclusiv prin promisiunea unei integrări cu instrumentele familiare de administrare din Windows pentru securitate, conformitate și management de flotă (fleet management), astfel încât agenții să fie guvernați prin instrumente deja utilizate de echipele IT.
Un element central al poziționării este suportul pentru NVIDIA OpenShell pe Windows, descris ca un mediu de rulare (runtime) „open source” și „secure-by-design” pentru agenți autonomi. NVIDIA afirmă că OpenShell folosește noile mecanisme Windows de securitate și izolare („security and containment primitives”) pentru a crea câte un „sandbox” izolat pentru fiecare agent și pentru a separa operațiunile la nivel de aplicație de aplicarea politicilor la nivel de infrastructură.
Ideea, în versiunea NVIDIA, este ca politicile de securitate și confidențialitate să fie aplicate la nivel de sistem și să nu poată fi ocolite de agent, inclusiv pentru a reduce riscuri precum scurgeri de credențiale sau date private.
NVIDIA listează utilizări care acoperă întregul „spectru” de fluxuri enterprise, de la dezvoltare până la inferență și aplicații de „physical AI” (AI pentru simulare și interacțiune între medii virtuale și fizice):
DGX Station for Windows este așteptat „în trimestrul IV al acestui an” și ar urma să fie disponibil prin parteneri OEM precum ASUS, Dell Technologies, GIGABYTE, HP, MSI și Supermicro, conform anunțului. Pentru detalii despre produs, NVIDIA trimite la pagina dedicată NVIDIA DGX Station for Windows.
Recomandate
NVIDIA va investi 3 miliarde de dolari (aprox. 13,8 miliarde lei) în oferta de acțiuni a Meta , pe fondul extinderii colaborării dintre cele două companii pentru optimizarea modelelor Muse și a infrastructurii necesare rulării agenților de inteligență artificială, potrivit NVIDIA News . Parteneriatul vizează extinderea lucrului comun pe Muse și „familia” de modele Muse, cu accent pe îmbunătățirea performanței la inferență (rularea modelului în producție) și antrenare. În același timp, companiile urmăresc optimizări „pe fluxuri de lucru” pentru a maximiza performanța și a reduce costul total de deținere (total cost of ownership), adică ansamblul costurilor de infrastructură și operare pe durata utilizării. De ce contează: investiția leagă mai strâns Meta de ecosistemul NVIDIA Elementul cu impact economic direct este investiția de 3 miliarde de dolari în oferta de acțiuni a Meta, pe care NVIDIA spune că o va face în paralel cu extinderea colaborării tehnologice. În termeni practici, mișcarea consolidează relația comercială și tehnologică într-un moment în care Meta își accelerează ambițiile de infrastructură pentru agenți AI și modele de frontieră. Ce include extinderea colaborării tehnologice NVIDIA și Meta indică trei direcții principale: Optimizări pentru Muse : îmbunătățirea performanței la inferență și antrenare, plus optimizări pe întregul flux de lucru pentru eficiență și costuri mai mici. Securitate și monitorizare pentru agenți AI : luarea în calcul a unor colaborări pe NVIDIA OpenShell Reference Architecture , inclusiv OpenShell pentru implementare „sigură” și NVIDIA Sentry pentru monitorizarea comportamentului agenților. Extinderea implementărilor de infrastructură NVIDIA la Meta : Meta intenționează să extindă utilizarea NVIDIA Vera Rubin și Vera CPU , și să folosească NVIDIA Spectrum-X Ethernet și BlueField-4 pentru eficiență de rețea și creșterea debitului de date. Publicația mai notează că modelele și agenții Muse, care folosesc infrastructura NVIDIA, au avut performanțe de tip „frontier-level” în benchmark-uri și o creștere puternică a descărcărilor de la consumatori după lansare, fără a oferi însă cifre. Mesajul celor două companii: agenții AI, noua țintă operațională Jensen Huang , CEO NVIDIA, leagă extinderea parteneriatului de trecerea către agenți AI ca „nouă paradigmă de calcul”, în timp ce Mark Zuckerberg , CEO Meta, poziționează Muse ca vehicul pentru a duce „superinteligența personală” către utilizatori. În perioada următoare, consecința practică a anunțului ar trebui să fie accelerarea implementărilor de infrastructură NVIDIA la Meta și o integrare mai strânsă a instrumentelor de securitate și monitorizare pentru agenți, în măsura în care colaborările „luate în calcul” se concretizează. [...]
Google începe testarea limitată a Genie 4 , un „world model” care poate rula simulări interactive în timp real cu audio nativ , o direcție cu potențial operațional direct pentru companii care dezvoltă agenți AI, roboți sau instrumente creative. Informațiile sunt prezentate pe Google Blog . Genie 4 este descris ca un model global („world model”) pentru simulare interactivă în timp real, cu un nivel ridicat de realism și cu generare de sunet „nativ” (adică produs direct de model, pe loc, nu adăugat ulterior). Google spune că modelul integrează și dezvoltă capabilități din familia Gemini: „Gemini Omni” ar ancora simulările în aspect și comportament din lumea reală, iar alte modele Gemini ar furniza raționamentul necesar pentru coerență și continuitate. Ce poate face Genie 4 în simulare, potrivit Google Publicația indică faptul că utilizatorii pot porni un eveniment și pot „dirija” scenele în timp real prin limbaj natural, inclusiv: mișcarea camerei, schimbarea vremii, introducerea de personaje noi. În plus, fiecare „lume” ar genera audio dinamic, inclusiv sunete ambientale, muzică și dialog interactiv. De ce contează pentru utilizare practică și industrie Google poziționează simularea lumii ca un pas important către AGI (inteligență artificială generală), menționând explicit două direcții de utilizare: medii de antrenare mai sigure pentru roboți și agenți, respectiv extinderea instrumentelor creative în industrii precum film, jurnalism, jocuri și producție. Acces: testare limitată și planuri de extindere Google spune că a început distribuirea Genie 4 către un grup restrâns de testeri „de încredere”. Următorul pas ar fi disponibilitatea „în curând” pentru abonații Google AI Ultra , în Project Genie, precum și pentru parteneri cu acces timpuriu prin Gemini API și AI Studio. Pentru demonstrații, compania trimite către blogul Google DeepMind: https://deepmind.google/blog/genie-4-a-new-generation-of-world-simulation/ . [...]
NVIDIA și Oracle mizează pe extinderea „superclusterelor” OCI la scară multi-gigawatt , într-o mișcare care vizează direct capacitatea operațională necesară pentru antrenarea și rularea modelelor de inteligență artificială tot mai mari, potrivit NVIDIA News . În paralel, NVIDIA Vera Rubin NVL72 și NVIDIA Vera CPU devin disponibile general în Oracle Cloud Infrastructure (OCI) , ceea ce extinde opțiunile de infrastructură pentru clienții care rulează atât sarcini intensive pe GPU (plăci grafice pentru calcul), cât și operațiuni intensive pe CPU (procesoare). Ce se schimbă, operațional: GPU și CPU pot fi scalate separat Elementul practic al colaborării este posibilitatea ca organizațiile să dimensioneze independent resursele de CPU și GPU, în funcție de tipul de încărcare. Mesajul central: în fluxurile moderne cu „agenți” AI (sisteme care nu doar generează răspunsuri, ci și execută pași intermediari), o parte relevantă din muncă se mută între apelurile către model și poate bloca GPU-urile dacă rulează lent pe CPU. În această logică, OCI oferă acum: disponibilitate generală pentru NVIDIA Vera Rubin NVL72 și NVIDIA Vera CPUs în Oracle Cloud Infrastructure ; infrastructură pentru antrenare și inferență (rulare) a modelelor, plus sarcini „din spate” pentru agenți: execuție de unelte, testare de cod, recuperare de date. Cum arată „superclusterele” OCI și de ce contează scara multi-gigawatt OCI Superclusters combină sisteme rack-scale NVIDIA NVL72 cu rețelistică Oracle Acceleron și NVIDIA Spectrum-X (Ethernet), plus alimentare și răcire „de clasă gigawatt”, pentru a susține antrenarea și servirea celor mai mari modele AI. Conform anunțului, fiecare rack conectează 72 de GPU-uri prin NVIDIA NVLink , iar rețeaua OCI este proiectată să scaleze la sute de mii de GPU-uri. Extinderea planificată cu Vera Rubin se bazează pe infrastructura NVIDIA deja prezentă în OCI, inclusiv sisteme GB200 și GB300 . NVIDIA indică și rolul platformei software CUDA, ca bază comună pentru a rula modele pe generații diferite de hardware. Următorul pas: HGX Rubin NVL8, o configurație mai mică, compatibilă x86 OCI spune că intenționează să introducă și NVIDIA HGX Rubin NVL8 , cu opt GPU-uri Rubin conectate prin NVLink într-un server bazat pe arhitectură x86. Configurația planificată include două procesoare Intel Xeon 6 cu 64 de nuclee, 4 TB memorie DDR5 și rețelistică RDMA de 6,4 Tbps, ca opțiune pentru antrenare, „fine-tuning” (ajustare) și inferență. Ideea operațională este de flexibilitate: adoptarea tehnologiei Rubin într-un format cu opt GPU-uri, păstrând compatibilitatea cu aplicații x86. Exemplu de utilizare: OpenAI pe OCI, peste 100.000 de GPU-uri Blackwell În anunț este menționat OpenAI ca exemplu de utilizare a infrastructurii OCI: în Abilene, compania ar fi antrenat și servit GPT-6 Astra pe un OCI Supercluster cu peste 100.000 de GPU-uri NVIDIA Blackwell. OpenAI este citată și în contextul folosirii Vera Rubin pe OCI, respectiv al testării și trecerii în producție a Vera CPU pentru sarcini de tip „agentic”. De ce intră în ecuație Vera CPU: reducerea timpilor morți ai GPU-urilor NVIDIA și Oracle își justifică extinderea și printr-o problemă practică: agenții AI execută cod și folosesc unelte între apelurile către model, iar dacă aceste operațiuni sunt lente pe CPU, GPU-urile pot rămâne în așteptare. În OCI, „Compute cu NVIDIA Vera CPUs” este prezentat ca orientat către: performanță ridicată pe un singur fir de execuție (single-thread), utilă pentru apeluri individuale și execuție de cod; lățime mare de bandă a memoriei, pentru a alimenta nucleele CPU cu date în sarcini concurente. În plus, OCI Kubernetes Engine este menționat ca mecanism pentru scalarea separată CPU/GPU, iar Oracle Acceleron este indicat pentru izolare hardware a încărcărilor care rulează cod „neîncrezător” generat de AI. Ce urmează Pe termen scurt, efectul concret este disponibilitatea generală în OCI pentru NVIDIA Vera Rubin NVL72 și NVIDIA Vera CPUs . În paralel, Oracle și NVIDIA vor să ducă OCI Superclusters la scară multi-gigawatt și să introducă HGX Rubin NVL8, însă calendarul și dimensiunea exactă a implementărilor nu sunt detaliate în material. [...]
Jensen Huang spune că modelele AI trebuie „ținute sub control” și monitorizate , un mesaj care mută discuția din zona de performanță în cea de guvernanță și risc operațional pentru companiile care dezvoltă sau folosesc inteligență artificială. Într-un interviu acordat CNBC , CEO-ul Nvidia compară AI cu „un bebeluș”, argumentând că tehnologia are nevoie de limite și supraveghere continuă pentru a fi utilizată în siguranță. Declarațiile vin în contextul în care evaluările „laboratoarelor de frontieră” (companii care dezvoltă modele AI de vârf) au crescut puternic, iar presiunea pe industrie se mută tot mai mult spre întrebarea: cum sunt controlate aceste sisteme după ce sunt puse în producție, nu doar cât de capabile sunt. De ce contează pentru companii: siguranța devine cerință operațională, nu opțiune Mesajul lui Huang indică o schimbare de accent relevantă pentru piață: pe măsură ce modelele AI sunt integrate în produse și procese, „siguranța” nu mai e doar un principiu, ci o componentă de operare — cu instrumente, proceduri și monitorizare. În interviu, Huang spune că există deja instrumente menite să controleze modelele AI și să promoveze utilizarea lor în condiții de siguranță. CNBC nu detaliază, în materialul disponibil, care sunt exact aceste instrumente sau cum sunt implementate, astfel că rămâne neclar ce mecanisme concrete are în vedere (de exemplu, limitări de acces, filtre, auditare sau monitorizare în timp real). Context: evaluările OpenAI și Anthropic, parte din aceeași discuție În aceeași intervenție, CEO-ul Nvidia discută și despre evaluările unor jucători precum Anthropic și OpenAI. Legătura implicită este că, odată cu creșterea valorii și a influenței acestor companii, cresc și așteptările privind controlul riscurilor asociate modelelor AI pe care le dezvoltă și le comercializează. Materialul CNBC este un segment video (aprox. 5 minute și 58 de secunde) și nu include, în textul extras, cifre sau exemple punctuale despre evaluări ori despre instrumentele de siguranță menționate. [...]
Folosirea agenților AI ca „echipă” de suport pentru management schimbă concret modul în care se iau decizii și se urmăresc resursele în Google , iar Sundar Pichai spune că astfel poate menține „activitatea” în derulare permanent, potrivit HotNews . Pichai a explicat, în podcastul Sources , că deleagă către agenți AI o parte din activitățile de colectare și sintetizare a informațiilor necesare conducerii companiei. El spune că, în loc să petreacă zilnic timp pentru a se pune la curent cu ce s-a întâmplat în ultimele 24 de ore, folosește agenți care „rulează” și îi aduc rezumate, urmând ca el să aprofundeze subiectele relevante. Ce fac, concret, agenții AI în rutina șefului Google În material se arată că agenții AI sunt instrumente de inteligență artificială proiectate să ducă la capăt sarcini „cap-coadă”, cât mai autonom, cu intervenție umană minimă. În cazul lui Pichai, utilizările menționate includ: înțelegerea evoluției dezvoltării modelelor; urmărirea modului în care sunt utilizate resursele de calcul ale Google; monitorizarea discuțiilor din numeroase grupuri interne de chat, fără a citi personal fiecare conversație; monitorizarea, prin telemetrie, a utilizării resurselor de calcul pe domenii de produs, eficiență și grad de utilizare, cu livrarea de „date și informații relevante”. Pichai susține că acest tip de instrumente „ne-a ajutat pe toți să devenim mai buni în ceea ce facem”. „24/7” ca avantaj operațional, dar cu limite la deciziile mari Deși mizează pe agenți pentru fluxuri de informare și monitorizare, Pichai afirmă că nu lasă inteligența artificială să ia deciziile importante în locul său, iar oamenii rămân implicați direct în deciziile cu consecințe semnificative privind alocarea resurselor de calcul. În același timp, articolul notează că agenții AI au fost în centrul unui val recent de incidente de cibersecuritate , care a alimentat îngrijorări. HotNews trimite, în acest context, la un material anterior despre un „val de incidente” asociat agenților AI. Costul ascuns: munca de „supervizare” a agenților Pe lângă beneficiul continuității, apare și o nouă componentă operațională: gestionarea agenților devine o competență separată, cu sarcini precum verificarea rezultatelor, prevenirea dublării activităților sau evitarea abaterii de la sarcinile atribuite. Un exemplu citat în articol: un director de inginerie de la Cisco, care gestionează peste 10 agenți, a spus pentru Business Insider că supravegherea acestora poate însemna treceri mai frecvente între sarcini și o senzație de muncă mai intensă, fără reducerea programului. În viziunea lui Pichai, avantajul major rămâne faptul că agenții, rulați în cloud (infrastructură de calcul livrată ca serviciu), pot funcționa non-stop și pot relua activitatea „exact din punctul în care le-ai lăsat”, ceea ce, spune el, permite ca „activitatea [să] continu[e] fără întrerupere”. [...]
Meta vrea să scaleze Muse la miliarde de utilizatori, dar planul apasă pe costuri și finanțare potrivit Gizmodo , care relatează că Mark Zuckerberg urmărește nu doar ca oamenii să folosească agenții AI „Muse”, ci și ca acești agenți să „colaboreze” între ei într-o rețea online de mari dimensiuni. Miza operațională și financiară este majoră: compania recunoaște că Muse este „foarte intensiv” din punct de vedere al resurselor de calcul, iar extinderea la peste un miliard de utilizatori ar necesita investiții semnificative. Zuckerberg a spus, într-o discuție cu investitorii, că Meta se așteaptă „să crească Muse pentru a deservi miliarde de oameni” și că o rețea de „miliarde de Muses” ar putea „face mai multe” pentru persoane și companii „lucrând împreună”. Publicația notează că acesta este și motivul pentru care Meta nu „taxează pe toată lumea de la început” pentru folosirea Muse: compania vrea adopție rapidă pentru a construi rețeaua. Costurile AI împing Meta spre soluții de finanțare În același context, Meta ar urma să cheltuiască „cel puțin 135 de miliarde de dolari” (aprox. 608 miliarde lei) anul acesta, probabil mai mult, iar cea mai mare parte a banilor ar merge către proiecte de infrastructură pentru AI, potrivit informațiilor prezentate în material. După un declin al fluxului de numerar liber (free cash flow) menționat în raportările anterioare, compania a ajuns la un flux de numerar liber negativ în raportul publicat miercuri: pentru trimestrul al treilea încheiat la 30 septembrie, free cash flow a fost de minus 2,12 miliarde de dolari (aprox. 9,6 miliarde lei). Pentru a-și susține ambițiile în AI, executivii Meta au prezentat o nouă clasă de acțiuni. Începând de anul viitor, acționarii existenți ar urma să primească o nouă clasă de acțiuni fără drept de vot, printr-un split 2-la-1. Meta a mai încercat o structură similară în urmă cu circa un deceniu, când compania se numea Facebook, dar atunci a retras planul, potrivit Gizmodo. De ce contează: creștere rapidă, dar cu riscuri de încredere și guvernanță Meta susține că Muse are tracțiune: peste 10 milioane de persoane din SUA și Canada și-ar fi creat agenți personali de la debutul din începutul lui septembrie. Zuckerberg a mai afirmat că aplicația a fost „numărul unu în App Store aproape în fiecare zi” și că cel mai frecvent caz de utilizare este cumpărăturile, cu „mai mult de un sfert” dintre utilizatori implicați în astfel de activități și o valoare medie a achiziției de „peste 200 de dolari” (aprox. 910 lei). În paralel, Gizmodo punctează că strategia ridică întrebări despre partajarea datelor, în condițiile în care Meta are un istoric controversat pe zona de confidențialitate. În ziua publicării materialului, un judecător din New Mexico a ordonat Meta să plătească 25 de miliarde de dolari (aprox. 114 miliarde lei) pentru inducerea în eroare a consumatorilor în legătură cu confidențialitatea datelor în cazul Cambridge Analytica; Meta a spus că va face apel. Publicația mai amintește acuzații recente legate de Muse, inclusiv situații în care utilizatori au susținut că agenții ar fi analizat texte private fără solicitare sau ar fi divulgat o adresă de domiciliu, precum și faptul că Amazon ar fi blocat agenții la cumpărături pe platforma sa din motive legate de gestionarea credentialelor și a datelor de cont; Meta a mai reparat și o vulnerabilitate „zero-day” care ar fi permis preluarea conturilor. Separat, noua structură de acțiuni este prezentată ca o modalitate de a strânge finanțare fără a diminua controlul lui Zuckerberg asupra companiei. În plus, Meta spune că a încheiat un „ Founder Alignment Agreement ” prin care Zuckerberg se angajează să rămână în California, unde este sediul companiei, pentru următorii opt ani, în contextul discuțiilor despre o posibilă taxă pe avere pentru miliardari (Proposition 40). Conform materialului, structura cu acțiuni fără drept de vot i-ar permite să vândă astfel de titluri pentru lichiditate fără să-și piardă controlul. [...]
