Tag: mlx

Știri despre „mlx”

Tehnologie16 oct. 2026

Meta și Apple aduc modelul AI Muse Spark Open pe Mac Studio cu M5 Ultra - rularea locală cere cel puțin două sisteme și până la 512GB memorie unificată

Rularea locală a unui model AI uriaș împinge Mac Studio spre configurații multi-sistem : o colaborare Apple–Meta aduce modelul Muse Spark Open pe Mac Studio cu M5 Ultra, dar îl face practic utilizabil doar în scenarii cu două sau chiar patru unități, potrivit AppleInsider . Meta a anunțat pe 15 octombrie Muse Spark Open, un model AI „open-weight” (cu ponderi publice, utilizabile local) orientat spre programare, inginerie software și sarcini în mai mulți pași. Modelul are 816 miliarde de parametri, însă în procesare sunt activi 42 de miliarde, conform articolului. Cerințe hardware: de la „un workstation” la un mic cluster Dincolo de faptul că poate rula local (fără servere în cloud), pragul de intrare este ridicat. Pentru a rula Muse Spark Open este nevoie de: cel puțin două Mac Studio cu M5 Ultra , fiecare cu 512 GB memorie unificată , sau patru Mac-uri configurate cu 256 GB fiecare. AppleInsider notează că varianta cu patru sisteme este disponibilă acum, în timp ce opțiunea Apple de 512 GB nu este așteptată la livrare decât spre finalul lunii octombrie . De ce nu ajunge un singur Mac Studio, chiar și la 512 GB Colaborarea se bazează pe arhitectura de memorie unificată a Apple, care permite CPU-ului și GPU-ului să acceseze același „bazin” de memorie. M5 Ultra urcă până la 512 GB memorie unificată și 1,2 TB/s lățime de bandă a memoriei. Chiar și așa, un singur sistem nu este suficient: potrivit cercetării Apple citate, „greutățile” comprimate ale modelului ocupă aprox. 493 GB , înainte de a lua în calcul memoria suplimentară necesară în timpul procesării. Rolul MLX: distribuirea sarcinii pe mai multe Mac-uri Execuția modelului este gestionată de framework-ul MLX (open-source), care distribuie încărcarea de lucru pe mai multe Mac-uri, astfel încât modelul să poată rula în practică în configurații multi-mașină. [...]

Apple va prezenta aproape 60 de studii și demonstrații la conferința internațională de AI - Inovațiile includ modelul SHARP pentru reconstrucția 3D rapidă

Apple își expune ofensiva de cercetare în AI cu aproape 60 de lucrări și demonstrații , un semnal că mizează pe rularea locală a modelelor (pe dispozitiv) și pe integrarea lor în ecosistemul de dezvoltare, nu doar pe servicii în cloud, potrivit 9to5Mac . Compania este unul dintre sponsorii International Conference on Learning Representations (ICLR) , care are loc între 23 și 27 aprilie, la Rio de Janeiro, Brazilia. Apple a publicat programul complet al prezenței sale la ICLR 2026, unde va prezenta „aproape 60” de studii, postere, prezentări orale, workshopuri și demonstrații tehnice. Lista completă este disponibilă pe site-ul Apple Machine Learning, în pagina de program: Apple at ICLR 2026 . Ce arată demonstrațiile: accent pe AI „pe dispozitiv” Printre demonstrațiile tehnice, Apple va prezenta modelul SHARP, descris ca fiind capabil să reconstruiască scene 3D fotorealiste dintr-o singură imagine în mai puțin de o secundă. Conform articolului, demo-ul va rula pe un iPad Pro cu cip M5. Tot în zona de demonstrații, Apple anunță și o prezentare de „inferință LLM pe dispozitiv” (rularea locală a unui model lingvistic de mari dimensiuni) pe un MacBook Pro cu M5 Max, folosind MLX. MLX și Xcode: direcția operațională pentru dezvoltatori MLX este prezentat ca un cadru open-source al Apple, construit pentru inferință AI pe Apple silicon (cipurile proprii ale companiei). În demo-ul de la ICLR, Apple spune că va rula „un model cuantizat” (adică optimizat pentru a consuma mai puțină memorie și putere de calcul) integral local, în mediul nativ de dezvoltare Xcode. Demonstrațiile tehnice vor avea loc la „Apple Booth (#204)”, în timpul orelor de expoziție. Context 9to5Mac notează că o parte dintre lucrările incluse în program au fost acoperite anterior de publicație, inclusiv modelul SHARP (menționat aici: 9to5Mac ). Pentru lista completă a sesiunilor și materialelor Apple la ICLR 2026, trimiterea principală rămâne pagina de program publicată de companie. [...]