Știri
Rularea locală a modelelor de inteligență artificială poate reduce costurile cu abonamentele și dependența de cloud pentru utilizatorii care vor funcții de tip „chat” direct pe telefon sau PC, fără conexiune permanentă la internet, potrivit Stirile Pro TV . Materialul descrie o opțiune gratuită lansată de Google, care permite descărcarea și rularea pe dispozitiv a unor modele mai mici decât cele folosite de servicii precum ChatGPT sau Gemini. Aplicația indicată este Google AI Edge Gallery , disponibilă gratuit pe iOS și Android. Pentru utilizare, sursa menționează un telefon „mid-range” cu cel puțin 8 GB RAM, iar după descărcarea modelelor dispozitivul nu mai trebuie să fie conectat la internet pentru a le rula. Ce înseamnă „local” și de ce contează operațional Rularea „local” înseamnă că modelul de inteligență artificială funcționează pe telefon (sau computer), nu pe servere la distanță („în cloud”). Consecința practică este că utilizatorul poate obține răspunsuri instant și poate folosi modelul și offline, după ce a descărcat pachetul necesar. În aplicație, zona relevantă pentru conversații este „AI Chat”, unde sunt disponibile mai multe modele. Cel mai nou model gratuit menționat în material este Gemma-4 , în variante marcate E2B și E4B, diferența fiind „mărimea” modelului: o cifră mai mare indică un model mai avansat, cu o bază de date mai mare. Limitări și setări care influențează calitatea răspunsurilor Materialul notează explicit că modelele care rulează pe telefon sunt mult mai mici decât cele din cloud, care au „trilioane de parametri”. De asemenea, utilizarea în limba română este posibilă, dar modelul „nu are la fel de multe informații ca în engleză” și poate greși. Aplicația permite și ajustări care schimbă comportamentul răspunsurilor, inclusiv: „Enable thinking” (modelul „gândește” mai mult înainte de răspuns); „temperatura”, setată implicit la 1: o valoare mai mare face răspunsurile mai „bogate în personalitate”, dar crește riscul de erori, potrivit sursei. Un detaliu tehnic relevant este că telefoanele mai noi au în procesor un modul special conceput pentru astfel de modele de inteligență artificială, ceea ce poate ajuta la rularea lor pe dispozitiv. [...]
