Huawei lansează placa accelerator Atlas 350 pentru AI - oferă o putere de calcul superioară față de Nvidia H20 în inferență

Huawei a lansat Atlas 350, o placă de accelerare AI pentru inferență , despre care compania susține că oferă performanțe peste Nvidia H20, potrivit South China Morning Post . Anunțul vine pe fondul accelerării adoptării inteligenței artificiale către aplicații de tip „agentic” (sisteme care pot executa sarcini în mod mai autonom), unde viteza și costul inferenței devin critice. Atlas 350 ar urma să fie bazată pe cel mai nou cip Ascend 950PR , proiectat să ofere putere de calcul și capacitate de stocare mai mari pentru inferență AI, a declarat Ma Haixu, vicepreședinte Huawei, la China Partner Conference, vineri. În acest context, „inferența” înseamnă rularea efectivă a modelelor AI deja antrenate, pentru a genera răspunsuri sau predicții în aplicații reale. Zhang Dixuan , șeful diviziei Ascend computing, a afirmat că placa livrează 1,56 petaflopși de putere de calcul FP4 și că aceasta ar reprezenta o îmbunătățire de 2,8 ori față de cipul H20 al Nvidia, adaptat pentru piața din China. FP4 este un format de calcul cu precizie redusă, folosit pentru a accelera procesarea prin mutarea mai rapidă a datelor, cu un compromis controlat asupra acurateței. Huawei spune că Atlas 350 țintește să egaleze sau să depășească produse comparabile pentru inferență în scenarii precum recomandări în căutare, generare multimodală și modele lingvistice mari. Lansarea are loc în timp ce compania, aflată sub sancțiuni americane, își intensifică eforturile de a construi infrastructură de calcul pentru AI pe baza semiconductorilor proprii, după progrese recente la nivel de cipuri Ascend, fără a se baza pe tehnologie americană. [...]