Cercetătorii de la Universitatea Peking dezvoltă o rețea optică între cipuri pentru inferență AI - prototipul promite peste 100x viteză cu circa o nouime din resursele unui GPU comercial

Un prototip de rețea optică între cipuri promite inferență AI de peste 100 de ori mai rapidă, cu circa o nouă parte din resursele de calcul ale unui GPU comercial , potrivit Interesting Engineering — o direcție care, dacă se confirmă la scară, poate schimba costurile operaționale și consumul energetic pentru sarcini AI distribuite. Sistemul a fost dezvoltat de cercetători de la Peking University și vizează una dintre limitele tot mai apăsătoare în extinderea sarcinilor AI: mișcarea datelor între cipuri. În locul interconectărilor electrice convenționale, platforma folosește o rețea „all-optical” (integral optică) pe cip, pentru a reduce întârzierile și a crește eficiența comunicării între noduri de calcul. Ce au construit cercetătorii și unde apare câștigul Arhitectura are în centru un transceiver fotonic din siliciu de 400 Gbps, care convertește semnalele electrice în semnale optice și invers. Acesta funcționează împreună cu un cip de comutare optică 16×16, care rutează datele între unitățile de calcul și formează o rețea scalabilă, cu o lățime de bandă agregată de comutare de până la 6,4 Tbps. Ideea-cheie, conform descrierii, este mutarea accentului de la „mai mult hardware” la „comunicare mai bună între cipuri”, astfel încât mai multe procesoare să poată lucra mai eficient în inferență (etapa în care un model AI deja antrenat produce rezultate). Demonstrația: inferență în „pipeline”, fără opriri în memorie Pentru a demonstra arhitectura, echipa a rulat o rețea neuronală convoluțională cu cinci straturi pentru reducerea zgomotului din imagini. Fiecare strat a fost alocat unei unități de calcul separate, iar comutatorul optic a legat procesoarele într-un „pipeline” (lanț de procesare). În loc ca datele intermediare să fie stocate repetat în memorie înainte de a fi trimise mai departe, sistemul a transmis direct „feature maps” (reprezentări intermediare ale imaginii) prin rețeaua optică. Rezultatul raportat: inferență de peste 100 de ori mai rapidă decât pe un GPU comercial pentru aceeași sarcină, folosind aproximativ o nouă parte din resursele de calcul. De ce contează pentru costuri și energie în infrastructura AI Autorii susțin că această abordare poate „alina” utilizarea energetică considerată nesustenabilă în centrele de date și poate optimiza latența sau consumul în scenarii de tip edge computing (procesare la marginea rețelei, aproape de locul unde se generează datele). În viziunea lor, progresele în optică integrată (co-packaged optics), transceivere fotonice din siliciu și interfețe mai rapide pentru cipuri AI ar putea transforma astfel de „supernoduri” optice într-o bază practică pentru sisteme distribuite viitoare. Studiul a fost publicat în revista National Science Review . Publicația nu oferă detalii despre calendarul unei comercializări sau despre costurile de producție, astfel că impactul economic rămâne, deocamdată, la nivel de potențial tehnologic demonstrat în prototip. [...]