NVIDIA lansează platforma DSX pentru proiectarea și operarea „fabricilor de AI” - DSX MaxLPS și DSX OS vizează reducerea costului pe token și creșterea eficienței energetice

NVIDIA încearcă să reducă costul de operare al „fabricilor de AI” printr-o platformă care leagă proiectarea, simularea și exploatarea infrastructurii , mizând pe eficiența energetică și pe standardizarea operațiunilor în centrele de date, potrivit NVIDIA News . Platforma, numită NVIDIA DSX , este prezentată ca un „manual complet” pentru constructorii de infrastructură care vor să proiecteze, să implementeze și să opereze la scară așa-numitele „AI factories” (centre de date optimizate pentru antrenarea și rularea modelelor de inteligență artificială). Miza economică este explicită: scăderea „costului pe token” (costul de generare a unităților de text/ieșire ale unui model) prin maximizarea performanței raportate la consumul de energie. Ce aduce nou DSX și de ce contează operațional NVIDIA spune că DSX reunește biblioteci software modulare cu sursă deschisă, interfețe de programare (API), proiecte de referință și tehnologii ale partenerilor într-o platformă „codesign” (proiectare coordonată între componentele hardware, software și facilități). Obiectivul declarat este accelerarea punerii în producție și creșterea fiabilității operaționale la scară. În centrul mesajului sunt două componente software noi: DSX MaxLPS : un set de tehnologii care urmărește să maximizeze „token performance per megawatt” (performanța de generare raportată la un megawatt consumat), într-un buget fix de energie, pentru a obține cel mai mic cost pe token. NVIDIA afirmă că, prin combinarea răcirii cu lichid la 45°C și a unor tehnologii „în rack” pentru optimizarea performanței per watt, operatorii pot rula „până la 40% mai multe GPU-uri” la punctul lor de eficiență maximă, cu impact minim asupra performanței sarcinilor de lucru. DSX OS : software modular cu sursă deschisă pentru operarea „fabricilor de AI”, care include management pe ciclul de viață, programarea resurselor, consistență la rulare, automatizare pentru starea de sănătate a sistemelor, reziliență, operare multi-tenant (mai mulți clienți/echipe pe aceeași infrastructură) și servicii de platformă. Elemente deja existente în platformă: de la proiectare la integrarea cu rețeaua electrică DSX include și un set de componente pe care NVIDIA le poziționează ca „full stack” (de la arhitectură la operare): DSX Reference Design : arhitecturi validate pentru „fabrici de AI”, acoperind calcul, rețelistică, stocare, design de cluster și infrastructura facilităților (energie, răcire, control, plus elemente civile/structurale/arhitecturale). DSX Sim : strat de simulare pentru întreg ciclul de viață, folosit pentru modelarea și validarea deciziilor de infrastructură din faza de planificare până la operare. DSX Flex : conectează centrele de date la servicii ale rețelei electrice, astfel încât sarcinile de lucru să se poată adapta la semnale precum reducerea încărcării, răspuns la cerere sau evenimente de preț; include și orchestrarea energiei din surse regenerabile și hibride. DSX Exchange : integrare între semnalele din IT și din zona de „operational technology” (echipamente și sisteme de control industrial), pentru calcul, rețea, energie, putere și răcire. În declarația citată de NVIDIA, Jensen Huang leagă direct platforma de reducerea riscului investițional prin simulare și validare înainte de instalare: „Cu platforma DSX, poți simula întreaga fabrică înainte să cheltuiești un dolar, valida performanța înainte ca un singur rack să fie instalat și opera cu tipul de fiabilitate pe care AI-ul în producție îl cere.” Ecosistem și adopție: producători de sisteme și operatori de cloud AI NVIDIA își sprijină strategia pe extinderea ecosistemului, în special în Taiwan, și pe adopția de către operatori de infrastructură AI. Publicația menționează că parteneri de cloud precum CoreWeave, Crusoe, Firmus, IREN, Lambda, Nebius, Nscale și Yotta Data Services implementează componente din DSX (DSX Sim, DSX MaxLPS și DSX OS) pentru a reduce riscul, a îmbunătăți utilizarea GPU-urilor și a aduce capacitate online mai rapid. Pe partea de hardware, Dell Technologies, HPE, Lenovo și Supermicro, împreună cu ASUS, Foxconn, GIGABYTE, Pegatron, Quanta Cloud Technology (QCT), Wistron și Wiwynn sunt menționați ca producători de sisteme „DSX-ready” și ca furnizori de active pentru simulare, pentru implementări la scară globală. Separat, NVIDIA indică un pilot comercial „multi-megawatt” în care DSX Flex este folosit împreună cu Emerald AI și Silicon Valley Power, pentru a demonstra centre de date „grid-responsive” (care își ajustează consumul în funcție de semnalele utilității), cu scopul de a proteja performanța sarcinilor AI și de a sprijini fiabilitatea rețelei. Ce urmează Anunțul este legat de NVIDIA GTC Taipei , unde compania direcționează publicul către discursul principal al CEO-ului. Materialul nu oferă detalii despre prețuri, termene de disponibilitate sau condiții comerciale pentru DSX, dincolo de descrierea componentelor și a partenerilor care le adoptă. [...]