Tiny Corp lansează driver personalizat pentru Nvidia RTX 5090 pe macOS - Utilizatorii Mac pot beneficia de suport GPU avansat după ani de absență

Un driver open-source de la Tiny Corp face posibilă rularea plăcilor Nvidia Blackwell, inclusiv RTX 5090, pe macOS , o schimbare cu impact operațional pentru dezvoltatori și echipe de cercetare care au rămas fără suport oficial Nvidia pe platforma Apple din 2019, potrivit Notebookcheck . Proiectul folosește o extensie de kernel (componentă de sistem care permite comunicarea directă cu hardware-ul) numită „Tiny GPU” și permite conectarea unor plăci grafice externe (eGPU) la Mac-uri cu Apple Silicon prin Thunderbolt 5 sau USB4, fără a apela la mașini virtuale. Într-o demonstrație realizată de YouTuberul Alex Ziskind , un RTX 5090 cu 32 GB memorie video a fost conectat la un Mac mini cu M4 Pro. Ce se schimbă, concret, pentru utilizarea pe Mac Miza practică este revenirea hardware-ului Nvidia în ecosistemul macOS, după ce ruptura dintre Apple și Nvidia a lăsat utilizatorii fără suport oficial pentru plăci grafice și a împins dezvoltarea către Metal, cadrul grafic și de calcul al Apple. În acest context, driverul Tiny Corp redeschide, cel puțin tehnic, opțiunea de a rula sarcini de calcul pe GPU Nvidia pe Mac. Totuși, materialul notează că performanța este încă limitată de software: driverul se bazează pe compilatorul „Tiny Grad”, nu pe optimizări native pentru Metal sau CUDA (platforma Nvidia pentru calcul pe GPU), ceea ce creează un decalaj la sarcini grele. Performanță: compatibilitate câștigată, dar cu limitări În testul menționat, rularea modelului Llama 3.1 8B a atins aproximativ 7,48 tokeni pe secundă. Alex Ziskind spune că este mai lent decât Llama CPP pe Metal, care ar fi „aproape de zece ori mai rapid” pe hardware echivalent. Pe de altă parte, pentru interfețe simple de tip chat, configurația cu Blackwell este descrisă ca fiind rapidă, cu „time-to-first-token” (timpul până la primul răspuns generat) de trei-patru ori mai bun decât soluțiile native Metal, conform articolului. Unde este blocajul și ce presupune instalarea Notebookcheck precizează că limita actuală nu este cablul Thunderbolt 5, care ar transfera eficient „greutatea” modelului (datele necesare rulării), ci eficiența „kernel-urilor” autogenerate (rutinele de calcul produse automat de compilator). Instalarea nu este încă una „de consum”: include aprobarea unei extensii de sistem și rularea unui flux de compilare bazat pe Docker. Publicația notează că soluția nu înlocuiește, deocamdată, fluxurile de lucru Metal, dar este prima opțiune funcțională de acest tip „în ani”. În lipsa unor detalii suplimentare în sursă, rămâne neclar cât de largă este compatibilitatea (versiuni de macOS, modele de Mac, stabilitate pe termen lung) și ce calendar ar putea avea optimizările viitoare. [...]