Huawei obține aprobarea unui brevet pentru o metodă de comunicare AI între dispozitive - promite evaluarea mai rapidă a modelelor LLM după timp de rulare și consum de energie

Huawei vizează reducerea consumului de energie și a timpului de rulare pentru asistenții AI pe dispozitive , printr-o metodă de „potrivire” automată a modelelor în funcție de capabilitățile hardware, potrivit Huawei Central , care scrie că firma a primit aprobarea pentru un nou brevet pe această direcție. Brevetul, intitulat „An Artificial Intelligence (AI) Communication Method and Device”, descrie o soluție de comunicare între un asistent AI și dispozitive, cu obiectivul de a îmbunătăți eficiența și acuratețea rulării modelelor de tip LLM (modele lingvistice mari) direct pe device. Miza practică este ca utilizatorul să beneficieze de funcții AI mai „potrivite” contextului, fără testări repetate și consumatoare de resurse. Cum ar funcționa mecanismul descris în brevet Conform descrierii, sistemul implică două dispozitive într-un „sistem de comunicare”: un al doilea dispozitiv trimite către primul dispozitiv detalii despre modelele AI, inclusiv date complexe care înregistrează timpul de rulare și consumul de energie pentru diferite modele; după ce primește aceste informații, primul dispozitiv poate testa modelul în funcție de propriile capabilități hardware și poate transmite feedback către al doilea dispozitiv. Publicația notează că soluția introduce un mecanism de auto-verificare și potrivire a funcțiilor AI, astfel încât dispozitivele să nu mai fie nevoite să evalueze modelele „unul câte unul”. În schimb, ar putea determina mai rapid ce model este mai potrivit pentru mediul curent. De ce contează operațional: evaluare mai rapidă, rezultate mai precise În logica brevetului, metoda ar permite evaluarea capabilităților AI „mai ușor și mai eficient”, optimizând în același timp acuratețea rezultatelor evaluării. Sursa nu oferă un calendar de implementare și nici nu confirmă că soluția va ajunge într-un produs comercial; este vorba despre o aprobare de brevet și despre o descriere tehnică a unei posibile abordări. [...]