Știri
Știri din categoria Inteligență artificială
Apple a amenințat că va scoate Grok din App Store dacă xAI nu întărește moderarea conținutului, într-un episod care arată cât de departe poate merge controlul Apple asupra aplicațiilor cu inteligență artificială atunci când apar riscuri de abuz, potrivit 9to5Mac.
Informația provine dintr-o scrisoare obținută de NBC News, în care Apple le-a spus unor senatori americani cum a intervenit „din culise” după valul de deepfake-uri sexualizate generate cu ajutorul lui Grok, la începutul acestui an. Atunci, compania a fost pusă sub presiune să elimine din App Store aplicațiile X și Grok, după ce utilizatorii au descoperit că chatbotul răspundea la solicitări de „dezbrăcare” a persoanelor din fotografii, în special femei, inclusiv minori.
NBC News relatează că Apple a constatat încălcări ale regulilor sale și a contactat echipele din spatele X și Grok după plângeri și după ce a văzut acoperirea media a scandalului, cerând dezvoltatorilor „un plan” pentru îmbunătățirea moderării.
Procesul descris în scrisoare indică o escaladare tipică pentru App Store: actualizări trimise la revizuire, respingeri și condiționarea rămânerii în magazin de modificări suplimentare. xAI a trimis un update pentru Grok, dar acesta a fost respins pe motiv că schimbările „nu au mers suficient de departe”. Ulterior, au fost trimise versiuni revizuite ale aplicațiilor X și Grok, însă doar una a fost acceptată.
În fragmentul citat de NBC News din scrisoarea Apple, compania explică de ce a tras linie în cazul Grok:
„Apple a revizuit următoarele versiuni trimise de dezvoltatori și a stabilit că X își rezolvase în mare măsură încălcările, dar aplicația Grok a rămas neconformă. Drept urmare, am respins versiunea Grok și am notificat dezvoltatorul că sunt necesare schimbări suplimentare pentru remedierea încălcării, altfel aplicația ar putea fi eliminată din App Store. […] După discuții și modificări suplimentare din partea dezvoltatorului Grok, am stabilit că Grok s-a îmbunătățit substanțial și, prin urmare, am aprobat cea mai recentă versiune.”
Cazul arată că, dincolo de dezbaterea publică, Apple folosește mecanismele operaționale ale App Store (revizuire, respingere, amenințarea cu delistare) ca pârghie de conformare pentru aplicații AI care pot genera conținut abuziv. În practică, asta înseamnă că dezvoltatorii sunt forțați să demonstreze rapid măsuri de moderare, altfel riscă pierderea distribuției pe iPhone.
Potrivit 9to5Mac, aceste detalii ajută și la înțelegerea schimbărilor „confuze” anunțate de xAI în vârful scandalului, inclusiv restricții privind cine poate folosi instrumentele de imagini ale lui Grok și limitări pentru editări care implică fotografii cu persoane reale.
Separat, NBC News afirmă că Grok „continuă să genereze imagini sexualizate ale oamenilor fără consimțământul lor”, după ce ar fi documentat zeci de cazuri în ultima lună. Deși volumul ar fi scăzut semnificativ față de ianuarie, publicația notează că unii utilizatori încă reușesc să ocolească restricțiile, de pildă pentru a pune femei în „ținută mai revelatoare”.
Pentru Apple și pentru dezvoltatorii de aplicații AI, miza rămâne una operațională și de conformare: chiar și după actualizări aprobate, persistența abuzurilor poate readuce rapid riscul de sancțiuni în App Store, inclusiv eliminarea aplicației.
Recomandate
Convocarea lui Elon Musk la Paris ridică miza de reglementare pentru X și pentru planurile sale în IA , într-un dosar în care procurorii francezi investighează de la conținut ilegal (inclusiv materiale cu abuz sexual asupra minorilor) până la suspiciuni că o controversă legată de chatbotul Grok ar fi fost folosită pentru a influența valoarea companiilor lui Musk înaintea unei listări, potrivit HotNews . Elon Musk și Linda Yaccarino, fosta directoare generală a X, au fost convocați pentru „audieri voluntare”, iar alți angajați ai platformei urmează să fie audiați ca martori în această săptămână, conform Parchetului din Paris. Rămâne neclar dacă Musk și Yaccarino se vor prezenta; un purtător de cuvânt al X nu a răspuns întrebărilor The Associated Press, iar eMed, compania la care lucrează acum Yaccarino, nu a răspuns solicitărilor de presă. Ce urmăresc procurorii: conținut ilegal și suspiciuni privind manipularea unui sistem automatizat Ancheta a fost deschisă în ianuarie 2025 de unitatea de combatere a infracționalității informatice a Parchetului din Paris și a inclus percheziții la sediile X din Franța în februarie. Musk și Yaccarino au fost invitați în calitatea lor de conducători ai X la momentul faptelor investigate; Yaccarino a condus compania din mai 2023 până în iulie 2025. Procurorii spun că audierile au rolul de a permite conducerii să își prezinte poziția și, dacă este cazul, „măsurile de conformare” pe care intenționează să le implementeze, cu obiectivul ca platforma să respecte legislația franceză în măsura în care operează pe teritoriul național. Autoritățile au pornit de la sesizări ale unui parlamentar francez, care a susținut că algoritmii părtinitori de pe X ar fi putut distorsiona funcționarea unui sistem automatizat de prelucrare a datelor. Ulterior, ancheta s-a extins după episoade legate de Grok, instrumentul de inteligență artificială disponibil prin X, inclusiv generarea de mesaje care ar fi negat Holocaustul (infracțiune în Franța) și publicarea de imagini „deepfake” (conținut falsificat realist) cu caracter sexual explicit. Capetele de acuzare invocate și rolul Grok În dosar se investighează, între altele, presupusa „complicitate” la deținerea și distribuirea de imagini pornografice cu minori, „deepfake”-uri explicite sexual, negarea crimelor împotriva umanității și manipularea unui sistem automatizat de prelucrare a datelor în cadrul unui grup organizat. HotNews notează că Grok, dezvoltat de xAI (companie înființată de Musk) și integrat în X, a provocat indignare la nivel global după ce a generat imagini „deepfake” sexualizate fără consimțământ, ca răspuns la solicitările utilizatorilor. În plus, chatbotul a distribuit un mesaj în limba franceză despre Auschwitz-Birkenau asociat cu negarea Holocaustului, după care și-a retractat afirmațiile în postări ulterioare. Dimensiunea financiară: alertă către autoritățile americane și o listare planificată Parchetul din Paris a anunțat că, în martie, a alertat Departamentul de Justiție al SUA și Comisia pentru Bursă și Valori Mobiliare (SEC) , sugerând că „controversa privind deepfake-urile sexuale explicite generate de Grok ar fi putut fi orchestrată deliberat” pentru a crește artificial valoarea companiilor X și xAI, ceea ce „ar putea constitui infracțiuni”. Procurorii leagă această ipoteză de listarea la bursă planificată pentru iunie 2026 a noii entități rezultate din fuziunea SpaceX și xAI, într-un moment în care, potrivit lor, X „pierdea în mod evident din avânt”. Musk a anunțat la începutul lunii februarie că SpaceX va cumpăra xAI, într-o tranzacție care a evaluat valoarea cumulată a celor două companii la 1,25 trilioane de dolari (aprox. 5,75 trilioane lei). Separat, HotNews mai arată că Musk a salutat un articol potrivit căruia oficiali americani din domeniul justiției ar fi refuzat să sprijine anchetatorii francezi, scriind pe X că „acest lucru trebuie să înceteze”. Ce urmează și de ce contează pentru companii Parchetul din Paris nu a comentat dacă Musk ar risca sancțiuni dacă nu se prezintă la audiere. Dincolo de cazul punctual, dosarul indică o presiune de reglementare în creștere asupra platformelor care distribuie conținut generat de utilizatori și de sisteme de inteligență artificială, cu potențial de a produce efecte operaționale (măsuri de conformare) și, în acest caz, inclusiv implicații financiare, dacă suspiciunile privind influențarea valorii companiilor ar fi susținute de anchetă. [...]
Cererea pentru rularea locală a modelelor de inteligență artificială ar putea împinge Apple spre un model de abonament pentru „compute” în cloud pe Apple Silicon , pe fondul interesului tot mai mare pentru Mac-uri cu memorie unificată mare și pentru utilizarea de dispozitive „headless” (fără monitor) ca servere personale, potrivit unei analize 9to5Mac . În material se arată că Apple Silicon este „impresionant optimizat” pentru rularea modelelor AI local, iar cererea se vede inclusiv în disponibilitatea din piață: Mac Studio ar fi „larg epuizate”, iar Mac mini „imposibil de găsit”. O parte dintre cumpărători vizează explicit configurații high-end, cu cantități mari de memorie unificată, potrivite pentru rularea locală a modelelor de tip LLM (modele lingvistice mari). De la vânzarea de hardware la închirierea de putere de calcul Unghiul economic al analizei este că Apple ar putea monetiza această cerere nu doar prin vânzări punctuale de hardware, ci printr-un serviciu recurent: acces lunar la macOS și Apple Silicon „în cloud”, într-un model similar cu furnizori precum AWS (Amazon Web Services). Ideea ar răspunde nevoii unor utilizatori de a rula agenți software care să se conecteze la servicii Apple și aplicații de Mac fără să le folosească propriile calculatoare. Autorul notează că tocmai de aceea unii cumpără Mac mini pentru a le folosi ca dispozitive „mereu pornite”, fără periferice, în rol de mini-servere. Ce infrastructură ar putea folosi Apple 9to5Mac indică faptul că Apple are deja o bază tehnică prin „ Private Cloud Compute ”, iar aceste servere ar fi „în mare parte subutilizate deocamdată”, până când compania își pregătește modelele Apple Intelligence „ajustate” (tuned) pentru Gemini. În același timp, analiza amintește că Apple a mai „flirtat” cu piața de servere prin Xserve și că a existat și o variantă de Mac Pro (2019) care putea fi montată în rack, însă fără un înlocuitor direct în prezent. De ce contează: marje și venituri recurente Argumentul central este potențialul de profit al unui astfel de model: analiza compară cu Amazon, unde „mai mult de jumătate” din profituri ar proveni din AWS, nu din retail. În acest context, Apple ar putea crea „un nou segment” de business prin închirierea de putere de calcul pe Apple Silicon, reducând presiunea pe achiziția de Mac-uri scumpe pentru rulare locală. Materialul oferă și un exemplu orientativ de monetizare, fără a-l prezenta ca informație confirmată: în loc să vinzi o dată un computer de 4.000 de dolari (aprox. 18.400 lei), ai putea încasa „200+ dolari” pe lună (aprox. 920+ lei) atât timp cât clientul are nevoie de resurse în cloud. Ce ar putea influența decizia Analiza leagă posibilitatea unei astfel de direcții și de schimbări la vârful companiei: Tim Cook ar putea renunța la funcția de CEO „în viitorul apropiat”, iar John Ternus este menționat ca posibil succesor, cu un profil puternic orientat spre hardware. Materialul nu indică un calendar, un produs concret sau o decizie internă a Apple; scenariul este prezentat ca o direcție plauzibilă dacă trendul cererii pentru AI local și „compute” dedicat continuă. [...]
Abonații Google AI Pro și Ultra primesc limite mai mari în AI Studio , ceea ce mută prototiparea cu modele Gemini într-o zonă cu costuri mai previzibile și cu mai puține fricțiuni pentru dezvoltatorii care au depășit nivelul gratuit, potrivit Google Blog . Actualizarea, disponibilă „începând de astăzi”, crește limitele de utilizare în Google AI Studio pentru abonații Google AI Pro și Ultra și adaugă acces la modele precum Nano Banana Pro și Gemini Pro . Mesajul central al Google este operațional: dezvoltatorii ar putea trece „în câteva minute” de la idee la o aplicație funcțională, cu costuri „previzibile”, în cadrul abonamentului. Ce se schimbă pentru dezvoltatori Pentru cei care au epuizat limitele din varianta gratuită, Google poziționează abonamentul Google AI ca o „punte” cu configurare redusă către facturare, utilă pentru testare și prototipare mai profundă în AI Studio. În paralel, compania menține că pentru lansări la scară de producție standardul rămâne utilizarea cheilor API cu tarifare „per cerere” (pay-per-request). Cum se face trecerea către producție Google susține că, atunci când un proiect este gata de lansare, tranziția de la beneficiile din abonament la o configurare bazată pe API poate fi realizată direct din AI Studio. Publicația nu oferă însă detalii despre nivelurile exacte ale noilor limite sau despre prețuri, dincolo de ideea de „costuri previzibile” în etapa de prototipare. Beneficiile sunt în curs de activare pentru toți abonații AI Pro și Ultra; utilizatorii trebuie să se autentifice cu contul asociat abonamentului pentru a le accesa. [...]
Laboratorul AI „Prometheus”, condus de Jeff Bezos , ar fi aproape de o finanțare de 10 miliarde de dolari (aprox. 46 mld. lei) la o evaluare de 38 miliarde de dolari (aprox. 175 mld. lei) , ceea ce l-ar propulsa între cele mai bine capitalizate start-up-uri aflate încă la început de drum, potrivit IT之家 . Informația este atribuită de publicație unui material Financial Times. Prometheus este descris ca un laborator de „fizică inginerească” aplicată în inteligență artificială, condus de fondatorul Amazon, Jeff Bezos. De ce contează: o rundă care schimbă rapid raportul de forțe în AI Dacă tranzacția se închide în termenii vehiculați, noua rundă ar urma să fie realizată la o evaluare de 38 miliarde de dolari, pentru un total de 10 miliarde de dolari finanțare. Surse citate de Financial Times, potrivit IT之家, spun că investitori precum JPMorgan și BlackRock ar participa la rundă. Publicația notează că tranzacția este așteptată să fie finalizată „în curând”, însă termenii nu ar fi încă definitiv stabiliți, ceea ce indică faptul că detaliile pot suferi modificări până la semnare. Context: start-up-ul ar fi strâns deja 6,2 miliarde de dolari Prometheus ar fi atras în noiembrie anul trecut 6,2 miliarde de dolari (aprox. 28,5 mld. lei) ca finanțare inițială. O nouă infuzie de capital de dimensiunea discutată acum ar consolida rapid capacitatea proiectului de a investi agresiv în infrastructură, echipe și dezvoltare, chiar înainte de a ajunge la maturitate comercială. Ce urmează: discuții pentru o structură de tip holding și achiziții în industrie Separat de această rundă, Prometheus ar purta negocieri pentru finanțarea înființării unei companii de tip holding. Planul menționat în material vizează achiziția, „pentru câteva zeci de miliarde de dolari”, a unor companii din industria prelucrătoare (manufacturieră) ale căror modele operaționale ar putea fi afectate semnificativ de AI, potrivit aceleiași surse. [...]
Deutsche Telekom mizează pe „AI suveran” ca infrastructură pentru industrie , iar mesajul CEO-ului Tim Höttges către companii este că avantajul competitiv va veni din combinația dintre aplicații de inteligență artificială și controlul asupra datelor și platformelor, potrivit Mobile World Live . Declarațiile au fost făcute în keynote-ul de la Hannover Messe , unde executivul a legat direct adoptarea AI în mediile industriale de nevoia unei infrastructuri „suverane”. Höttges a susținut că Germania are „toate ingredientele” pentru a juca un rol global de vârf în ceea ce el a numit „AI fizic” – adică utilizarea AI în medii industriale. În același timp, a avertizat că beneficiile nu vin automat: companiile trebuie să aleagă aplicațiile potrivite și să își reproiecteze procesele de business, ținând cont și de efectele în lanț asupra forței de muncă. „Progresul se întâmplă acolo unde AI și suveranitatea se întâlnesc.” Ce înseamnă „suveranitate” pentru clienții enterprise În oferta către companii, CEO-ul Deutsche Telekom a descris „niveluri” diferite de suveranitate, în funcție de caz de utilizare și industrie. Acestea includ: produse pentru procesarea de date sensibile, astfel încât să fie respectate cerințele de reglementare; „suveranitate operațională” pentru procesele de bază ale afacerii; „suveranitate tehnologică” pentru companiile care vor să își îndepărteze arhitectura IT de furnizori din afara Europei. Investiții și miza 6G pentru industrie Höttges a folosit intervenția și pentru a promova investițiile Deutsche Telekom în Germania orientate către segmentul industrial. Printre acestea se află un proiect „AI Factory” la München, realizat împreună cu partenerii Nvidia, SAP și Siemens, precum și întărirea arhitecturii de rețea pentru a susține tehnologiile actuale și viitoare. Operatorul indică faptul că investește anual 6 miliarde euro (aprox. 30 miliarde lei) în rețele și alte infrastructuri în Germania. În paralel, avansează și dezvoltarea 6G, despre care se așteaptă să permită sisteme capabile să gestioneze operațiunile de rețea „în mare parte autonom”, și să deschidă calea către aplicații noi pentru industrie. [...]
Escrocheriile bazate pe inteligență artificială împing frauda bancară la niveluri record , iar băncile ajung să gestioneze simultan promisiunea de eficiență și o vulnerabilitate operațională tot mai greu de controlat, potrivit Economedia , care citează o analiză Financial Times . HSBC a numit primul său șef de inteligență artificială, David Rice, semnalând cât de serios tratează marile bănci tehnologia. În paralel, banca își simplifică activitatea și promite acționarilor reducerea numărului de angajați și tăierea costurilor cu 1,5 miliarde de dolari (aprox. 6,9 miliarde lei) până la finalul acestui an. Frauda „industrializată”: record de raportări și creștere pe zona de identitate Pe măsură ce băncile mizează pe câștiguri de eficiență și pe noi surse de venit, infractorii folosesc tot mai mult AI pentru a exploata vulnerabilități existente. În Regatul Unit, datele organismului de industrie Cifas indică o creștere accentuată a conturilor de clienți folosite pentru facilitarea fraudelor. Cifas a constatat că escrocheriile bazate pe AI au dus raportările de fraudă la un nivel record de 444.000 anul trecut, pe fondul utilizării tehnologiei pentru preluarea controlului asupra telefoanelor mobile, conturilor bancare și conturilor de cumpărături online. Totodată, cercetarea arată că frauda de identitate în domeniul bancar a crescut cu 10% de la an la an, până la 63.678 de cazuri, pe măsură ce impersonarea bazată pe AI și „mediile sintetice” fac mai dificilă detectarea fraudei de identitate și a preluării de conturi. „Datele și informațiile noastre arată cum frauda este industrializată, AI accelerând criminalitatea care este din ce în ce mai digitală, organizată și internațională”, a declarat Mike Haley, CEO al Cifas. De ce devine mai greu de apărat: „asimetria inovației” și atacuri aproape invizibile Shanker Ramamurthy, partener global de management pentru banking și piețe financiare la IBM, descrie o „asimetrie a inovației” în creștere: băncile trebuie să opereze în cadre de reglementare și etică, în timp ce infractorii folosesc AI fără constrângeri. „Provocarea nu este doar că infractorii folosesc instrumente noi. Este că ei folosesc AI pentru a exploata vulnerabilitățile existente cu o precizie extremă. Vedem o schimbare către o formă cognitivă de copiere, în care atacurile automate reproduc perfect comportamentul legitim al clienților, făcându-le aproape invizibile pentru sistemele vechi”, spune Ramamurthy. Michael Down, șef global al serviciilor financiare la firma de tehnologie Neo4j, susține la rândul său că AI generativă îi face pe infractori mai credibili, inclusiv prin posibilitatea de a suna și a vorbi „exact ca un anumit client”. El indică drept exemplu crearea de servicii false de împrumut sau ipotecare, în care escrocii construiesc „fronturi digitale” pentru a colecta date sensibile și a percepe taxe inițiale, apoi folosesc informațiile furate pentru a obține finanțări legitime înainte de a dispărea cu banii. [...]
