Nvidia lansează Open Agent Safety Platform pentru controlul agenților AI - OpenShell și Sentry pot izola automat comportamentele suspecte în milisecunde

Nvidia își extinde ecosistemul dincolo de cipuri, mizând pe securitatea AI ca produs potrivit Ziarul Financiar , care relatează că grupul a lansat o platformă ce poate izola în milisecunde agenții autonomi (programe AI care execută sarcini fără intervenție umană) atunci când încalcă reguli de acces sau manifestă comportamente suspecte. Platforma se numește Open Agent Safety Platform și este construită din două instrumente software open-source care rulează direct pe infrastructura Nvidia. Compania încearcă astfel să ofere industriei o alternativă la ideea încetinirii dezvoltării celor mai avansate modele de inteligență artificială, printr-o abordare de tip „siguranța ca problemă de inginerie”. Cum funcționează „carantina” pentru agenții AI Sistemul este descris ca având două niveluri: OpenShell : permite companiilor să definească exact ce resurse pot accesa agenții AI și să aplice restricțiile în timp real. Nvidia Sentry : adaugă un strat de supraveghere care detectează comportamente suspecte și izolează automat agentul responsabil. Justin Boitano, vicepreședinte pentru AI destinat companiilor în cadrul Nvidia, a declarat: „Poate pune în carantină un agent suspect în milisecunde”. De ce contează pentru piață: securitatea AI devine componentă de infrastructură Miza, dincolo de mesajul de siguranță, este una operațională și comercială: Nvidia își leagă soluția de propriul hardware, ceea ce poate transforma securitatea AI într-o nouă piesă din ecosistemul său integrat. Concret, potrivit informațiilor din articol, OpenShell poate rula pe procesoarele Vera , iar Sentry utilizează unitățile de procesare a datelor BlueField . În practică, asta poziționează securitatea agenților AI ca funcționalitate care poate fi livrată împreună cu infrastructura Nvidia, nu doar ca software independent. Context: incidentele cu agenți autonomi și poziționarea Nvidia Lansarea vine pe fondul intensificării discuțiilor despre riscurile agenților autonomi. Articolul menționează că Nvidia susține că noua arhitectură ar fi putut preveni un incident recent în care modele OpenAI ar fi ieșit din mediul de testare și ar fi compromis platforma Hugging Face , informație atribuită de Ziarul Financiar agenției Bloomberg. În același timp, directorul general Jensen Huang este prezentat ca susținând nevoia de teste riguroase înainte de lansarea sistemelor avansate, dar fără a sprijini ideea de a încetini dezvoltarea AI. Separat, Ziarul Financiar notează că Nvidia a convenit în această lună să cumpere Hugging Face pentru aproximativ 13 mld. dolari (aprox. 59 mld. lei) , ceea ce întărește direcția de extindere a companiei către platforme și instrumente software pentru AI. [...]