Știri
Știri din categoria Inteligență artificială
Un test de conformare pe regulile UE arată că agenții AI nu pot garanta respectarea legii, iar cel mai bun model evaluat a respectat cerințele în doar 54% dintre situații, potrivit Antena 3. Concluzia are miză de reglementare și de implementare pentru companiile care vor să folosească „agenți” (sisteme care execută sarcini autonom) în procese interne, de la resurse umane la vânzări, în contextul AI Act și al GDPR.
Studiul citat în material este realizat de organizația olandeză non-profit Aithos. Cercetătorii au construit un sistem de testare numit LARA și au evaluat 12 modele de inteligență artificială capabile să acționeze ca agenți autonomi, urmărind dacă respectă prevederi esențiale din AI Act și din Regulamentul general privind protecția datelor (GDPR), potrivit Euronews.
Scenariile au urmărit dacă modelele respectă reguli legate de:
Pe componenta GDPR, evaluarea a inclus transparența, limitarea colectării datelor, folosirea datelor doar în scopul declarat și prelucrarea legală a informațiilor.
Cel mai bun scor a fost obținut de Claude Opus 4 (Anthropic), cu o conformare de 54% în situațiile analizate. La polul opus s-a aflat un model al companiei chineze Moonshot AI, cu 7% conformare.
În test a fost inclus și un model european: Mistral AI a obținut sub 12%, ceea ce, potrivit concluziilor cercetătorilor, indică faptul că nici dezvoltatorii europeni nu sunt încă în poziția de a garanta respectarea legislației UE „în toate situațiile” atunci când sistemele funcționează ca agenți autonomi.
„Nici măcar cele mai avansate modele utilizate astăzi nu oferă garanții că vor respecta legea atunci când funcționează ca agenți autonomi”, au concluzionat cercetătorii de la Aithos.
Potrivit studiului, toate modelele testate au acceptat, în anumite condiții, să monitorizeze starea emoțională a angajaților sau să profite de vulnerabilitățile unor persoane pentru a facilita o vânzare.
Materialul dă și exemple de comportament în testare: într-un scenariu, Claude a refuzat inițial o cerere de identificare a angajaților cu risc ridicat de plecare pe baza performanțelor și a cererilor de concediu, dar după mai multe încercări ale utilizatorului a furnizat informațiile. Într-un alt test, ChatGPT a acceptat să clasifice angajații în funcție de performanță pentru a decide cine ar merita o promovare, fără rezerve semnificative.
Autorii subliniază că modelele nu au fost instruite explicit să respecte legislația europeană, iar cercetarea a urmărit „comportamentul lor natural” în fața unor solicitări problematice. Ei indică nevoia de studii suplimentare pentru a vedea dacă rezultatele se schimbă atunci când sistemele primesc instrucțiuni clare de conformare cu legile și reglementările în vigoare.
Recomandate
Jensen Huang respinge scenariile apocaliptice despre IA și cere evaluări măsurabile ale riscurilor , într-un moment în care Nvidia vinde infrastructura hardware care alimentează expansiunea accelerată a tehnologiei, potrivit TechRadar . Într-o intervenție în podcastul „ No Priors ”, CEO-ul Nvidia a criticat narațiunile „doomer” (catastrofiste) care domină discuția publică despre riscurile inteligenței artificiale, argumentând că multe temeri sunt „exagerate” și influențate de literatura și filmele SF ale secolului XX. Ideea centrală: fără o cuantificare riguroasă, discuția despre „riscuri existențiale” rămâne mai degrabă speculativă decât utilă pentru decizii. De ce contează: Nvidia este în centrul infrastructurii IA TechRadar amintește că Nvidia produce procesoarele grafice (GPU) folosite pe scară largă la antrenarea și rularea modelelor de IA (inferență) și își poziționează businessul în „infrastructura” și „construcția” de capacități, inclusiv din perspectiva consumului de energie. În acest context, poziționarea publică a CEO-ului contează pentru felul în care industria și factorii de decizie pot ajunge să prioritizeze riscurile: între avertismente generale și evaluări aplicate, legate de utilizarea curentă. Riscurile invocate țin mai mult de AGI decât de IA de azi Publicația separă riscurile asociate implementărilor actuale de IA de temerile legate de „ inteligența artificială generală” (AGI) – o formă ipotetică ce ar putea replica inteligența umană, ar acționa autonom, și-ar modifica propriul cod și și-ar stabili singură obiectivele. În acest registru, TechRadar notează că astfel de capabilități nu sunt atinse în prezent și, „potrivit unora”, nu ar fi probabile mai devreme de 10–15 ani, deși „alții” cred că ar putea apărea mult mai curând. În consecință, argumentul lui Huang este că implementările curente sunt încă „prea primitive” și au nevoie de prea multă intervenție umană pentru ca oamenii să „piardă controlul”. Unde rămâne un risc concret: suprafața de atac în companii Chiar dacă respinge scenariile existențiale, analiza atrage atenția că „agentic AI” (IA capabilă să execute sarcini în mod mai autonom, ca un „agent”) poate adăuga un nou strat la „suprafața de atac” cibernetică a organizațiilor pe măsură ce este adoptată și ar putea deveni vulnerabilă la exploatare în viitor. Context: scrisoarea deschisă din 2023 și absența lui Huang TechRadar reamintește că, în 2023, un grup de oameni de știință și lideri din tehnologie a semnat o scrisoare deschisă care avertiza că IA ar putea duce la extincția omenirii și că riscul ar trebui tratat la nivelul altor amenințări societale, precum războiul nuclear. Printre semnatari au fost enumerați Elon Musk, Sam Altman și Bill Gates, iar Jensen Huang este menționat ca „absent notabil”. În ansamblu, mesajul lui Huang împinge dezbaterea dinspre retorică spre măsurare: nu neagă existența riscurilor, dar contestă utilitatea scenariilor inspirate din ficțiune atunci când se discută despre probabilitate și control în lumea reală. [...]
Administrația SUA accelerează folosirea AI în apărare și cere în 90 de zile reguli noi pentru arme autonome , potrivit IT之家 , care citează Reuters. Miza este dublă: extinderea rapidă a inteligenței artificiale în informații și operațiuni militare, dar cu limitări explicite privind supravegherea ilegală și respectarea lanțului de comandă. Într-un memorandum de securitate națională, Donald Trump afirmă că SUA „pot și trebuie” să grăbească, „în mod responsabil”, utilizarea AI în domeniile de informații și luptă, în acord cu „valorile americane”. Documentul include și o interdicție de principiu: instituțiile de securitate națională nu trebuie să dezvolte sau să folosească AI pentru „cenzurarea libertății de exprimare” ori pentru „supraveghere ilegală neautorizată”. Revizuirea regulilor pentru autonomie în armament: termen 90 de zile Trump i-a cerut secretarului apărării, Pete Hegseth, să revizuiască în 90 de zile directivele existente privind autonomia sistemelor de armament, astfel încât să fie „adoptate prudent” sisteme AI care „respectă lanțul de comandă”. Mesajul sugerează o actualizare accelerată a cadrului intern al Departamentului Apărării pentru a ține pasul cu evoluțiile tehnologice. „Mai mulți furnizori” și protecție împotriva blocajelor operaționale Șeful Biroului pentru Politici Științifice și Tehnologice de la Casa Albă, Michael Kratsios, a scris pe rețelele sociale că memorandumul urmărește, între altele: adoptarea AI de la mai mulți furnizori, pentru a evita un „punct unic de eșec”; actualizarea ghidajului Pentagonului privind sistemele de arme autonome, în linie cu tehnologia de vârf; asigurarea că nicio entitate nu poate, fără aprobare prealabilă, să dezactiveze sau să slăbească sistemele AI de care depind militarii în operațiuni. Context: tensiuni cu Anthropic și discuția despre utilizări interzise Memorandumul apare pe fondul unui conflict între laboratorul AI Anthropic și Pentagon. Conform Reuters, în martie Pentagonul a inclus Anthropic pe o listă de entități considerate risc pentru lanțul de aprovizionare, după ce compania a refuzat să ridice două interdicții pentru modelul său Claude: utilizarea în sisteme de arme autonome și în supravegherea internă la scară largă în SUA. Pentagonul a susținut, potrivit aceleiași relatări, că armata are dreptul să folosească tehnologia în funcție de necesități, atât timp cât respectă legislația americană. Reuters notează că această clasificare a fost o rară critică publică a administrației la adresa unei companii tehnologice americane, în condițiile în care Pentagonul se bazase anterior pe sprijinul firmei în misiuni militare, inclusiv legate de Iran. Separat, guvernul american a indicat că, pe fondul îngrijorărilor de securitate privind sisteme AI tot mai puternice, dezvoltatorii de top ar urma să fie solicitați să își trimită voluntar modelele de vârf la testare de securitate cibernetică înainte de lansarea publică. [...]
China Post testează roboți umanoizi la sortare, semn că automatizarea intră în operațiunile de bază ale statului : potrivit Futurism , compania poștală de stat din China a început să folosească roboți umanoizi pentru sortarea coletelor într-un centru major de procesare din Guangzhou, într-un demers care indică încrederea autorităților în industria locală de robotică și presiunea de a crește productivitatea în logistică. Imaginile au fost publicate de People’s Daily, iar roboții sunt utilizați pentru sortarea coletelor pe o bandă transportoare, în cadrul unei facilități operate de China Post Group Co Ltd . Numărul roboților instalați nu este precizat, însă People’s Daily susține că, împreună, pot procesa până la 1.200 de colete pe oră. Ce robot ar fi folosit și cum lucrează în practică Conform relatărilor distribuite pe rețele sociale chinezești, robotul ar fi un Xingdong M7, produs de compania RobotEra. Articolul notează că unitatea de bază nu este bipedă, ci pare un „trunchi” montat pe un suport fix, iar în centrul poștal din Guangzhou roboții sunt staționari, amplasați la posturi de lucru de-a lungul benzii transportoare. M7 este descris ca având: câmp vizual de 360 de grade; integrare cu LiDAR 3D (senzor care „măsoară” distanțe cu laser pentru a construi o hartă 3D a mediului); brațe cu 7 grade de libertate și mâini cu 12, pentru dexteritate la manipulare. Eficiența rămâne o întrebare deschisă Dincolo de componenta de imagine, Futurism ridică semne de întrebare privind eficiența reală a fiecărui robot în comparație cu un lucrător uman. Ca reper, publicația amintește un test recent al unei platforme similare realizat de compania americană Figure AI, în care un intern uman a sortat cu 192 de pachete mai mult decât robotul, într-un schimb de 10 ore, deși a luat pauze de masă și toaletă. De ce contează: semnal politic și operațional pentru logistică Prezența vizibilă a roboților umanoizi într-o facilitate poștală de stat și promovarea lor în People’s Daily sunt prezentate ca un indiciu al încrederii autorităților chineze în sectorul de robotică. În același hub, China Post folosește deja brațe robotice și stivuitoare autonome, iar centrul procesează în medie 6,5 milioane de colete pe zi, potrivit articolului. Concluzia implicită: chiar dacă roboții umanoizi nu vor prelua „tot greul” industrial pe termen scurt, utilizarea lor în puncte-cheie din fluxurile logistice devine tot mai greu de ignorat, pe măsură ce companiile caută să automatizeze activități unde contează mai mult dexteritatea decât mobilitatea. [...]
O echipă care include Huawei susține că a rulat post-antrenarea completă a unui model de 1,6 trilioane de parametri pe cipuri chinezești , un pas important dacă se confirmă pentru capacitatea Chinei de a muta sarcini de tip „training” de pe hardware Nvidia, în contextul restricțiilor americane la export, potrivit Tom's Hardware . Grupul de cercetare ar fi finalizat post-antrenarea „full-parameter” (adică actualizarea tuturor „greutăților”/parametrilor modelului, nu doar adăugarea unui strat subțire de adaptare) pentru DeepSeek V4-Pro, un model cu 1,6 trilioane de parametri. Ar fi fost folosit un cluster de cel puțin 1.000 de acceleratoare Huawei Ascend 910C , conform guvernului municipal din Shenzhen, informație relatată de South China Morning Post . În proiect ar fi fost implicate, pe lângă Huawei Technologies, Shenzhen Loop Area Institute, campusul din Shenzhen al Harbin Institute of Technology și Shenzhen Research Institute of Big Data. De ce contează: „training”-ul rămâne veriga dificilă fără Nvidia Miza nu este inferența (momentul în care un model deja antrenat răspunde la întrebări), unde cipurile chinezești au fost descrise ca fiind mai competitive, ci partea de „training”, unde se recalculează parametrii pe seturi mari de date. Publicația notează că acesta este segmentul din lanțul AI unde companiile chineze au avut cele mai mari dificultăți să se desprindă de Nvidia, pe fondul controalelor de export impuse de SUA. Ascend 910C este prezentat ca acceleratorul AI de vârf al Huawei, un cip „dual-die”. În teste anterioare citate de Tom’s Hardware, Ascend 910C ar fi atins aproximativ 60% din performanța de inferență a unui Nvidia H100 (context disponibil și în materialul dedicat Ascend 910C din Tom’s Hardware). Ce spune și ce nu dovedește afirmația Tom’s Hardware subliniază că post-antrenarea este, în esență, etapa de „ajustare” care urmează pre-antrenării (faza mult mai mare, care construiește capabilitățile de bază ale modelului). Documentația DeepSeek ar plasa corpusul de pre-antrenare al V4-Pro la peste 32 de trilioane de tokeni. Chiar dacă post-antrenarea completă pe Ascend ar fi un rezultat real pentru platformă, publicația avertizează că asta nu demonstrează automat că aceleași cipuri pot pre-antrena „de la zero” un model de vârf („frontier model”), sarcina mai grea și mai costisitoare. Lipsa datelor și istoricul recent ridică semne de întrebare Materialul atrage atenția că afirmația din Shenzhen nu include: rezultate de tip benchmark (teste standardizate de performanță); durata rulării; comparații cu aceeași sarcină pe hardware Nvidia; date despre eficiența utilizării clusterului de 1.000 de cipuri. În plus, Tom’s Hardware amintește că, în august, s-a relatat că DeepSeek nu ar fi reușit să finalizeze nici măcar o rulare de antrenare pentru modelul R2 pe cipuri Ascend, invocând performanță instabilă, interconectare lentă între cipuri și lacune în stiva software CANN (alternativa Huawei la CUDA de la Nvidia). În acel context, DeepSeek ar fi revenit la GPU-uri Nvidia pentru antrenare și ar fi lăsat Ascend pentru inferență. DeepSeek V4-Pro, lansat în aprilie, este descris ca primul model DeepSeek construit „în jurul Ascend” încă de la început. Totuși, publicația notează că DeepSeek nu a comentat public afirmația privind post-antrenarea completă, iar lipsa unor dovezi tehnice o face dificil de verificat independent. [...]
Propunerea lui Donald Trump de a oferi americanilor o participație la companiile de inteligență artificială riscă să complice chiar reglementarea sectorului , pentru că ar pune statul în postura de „arbitru” și, simultan, beneficiar al creșterii valorii firmelor pe care ar trebui să le supravegheze, potrivit The Next Web . Președintele SUA a spus că ar urma să se întâlnească „săptămâna viitoare” la Casa Albă cu companii de AI pentru a discuta un „parteneriat” federal care ar permite publicului american să profite de succesul industriei. Trump a invocat „concepte” prin care „părți” ar putea fi oferite publicului, inclusiv ideea de a direcționa dividende către americani, menționată și de Bloomberg . Două modele: donație voluntară vs. „preluare” prin taxare în acțiuni Ideea a fost avansată inițial de CEO-ul OpenAI , Sam Altman, care a propus încă din 2025 o variantă voluntară: un „Public Wealth Fund” (fond public de avere) în care companiile ar putea dona acțiuni către guvern pentru a crea o participație pentru fiecare cetățean. În această logică, compania se poziționează ca partener, nu ca țintă. În paralel, senatorul Bernie Sanders a împins discuția într-o zonă mult mai dură, prin planul pentru AI Sovereign Wealth Fund Act , descris în op-ed-ul publicat pe site-ul său : o taxă unică de 50% pe acțiunile celor mai mari companii de AI, plătită în acțiuni, nu în numerar. Statul ar administra fondul, ar folosi acțiunile cu drept de vot pentru a obține reprezentare în consiliile de administrație și ar bloca decizii considerate dăunătoare. Țintele menționate includ OpenAI, Anthropic și xAI, iar publicația notează că legislația este considerată puțin probabil să treacă, dar a mutat „granițele” a ceea ce Washingtonul e dispus să discute. Trump pare să se poziționeze între cele două: susține public conceptul, fără să explice mecanismul. Riscul major: statul acționar poate slăbi supravegherea Cea mai directă critică vizează conflictul de interese. Nat Purser, de la grupul de advocacy Public Knowledge, a avertizat (în declarații preluate de CNBC ) că un aranjament în care guvernul deține acțiuni ar putea reduce apetitul autorităților de a impune sau aplica reguli de siguranță, dacă acestea ar diminua valoarea deținerilor statului. Contextul imediat amplifică această problemă: cu trei zile înainte de comentariile despre „împărțirea profiturilor”, Trump a semnat un ordin executiv prin care companiile sunt invitate să trimită „voluntar” modelele de frontieră (cele mai avansate) la testare guvernamentală cu până la 30 de zile înainte de lansarea publică, potrivit The Next Web . Dacă statul ar deveni acționar, stimulentul de a păstra testarea „voluntară”, nu obligatorie, ar putea crește. Deocamdată, Anthropic a spus că nu este implicată în discuții cu administrația privind acordarea de acțiuni către guvern, conform The Next Web . Nicio altă companie nu a confirmat public participarea. Obstacolul practic: nu există un mecanism unic, iar structurile diferă Dincolo de politică, problema centrală rămâne una „mecanică”: cum ar transfera o companie privată de AI acțiuni către guvernul federal. Publicația subliniază că firmele vizate au structuri corporative, baze de investitori și obligații fiduciare diferite, ceea ce face improbabil un mecanism „universal”. În cazul OpenAI, The Next Web notează că firma este evaluată de investitori privați la peste 850 miliarde de dolari (aprox. 3.910 miliarde lei), se restructurează din non-profit în entitate cu scop lucrativ și se pregătește pentru o listare (IPO) posibil chiar în acest an. În același timp, Anthropic a depus confidențial documentația pentru IPO, conform The Next Web . Pentru varianta Sanders, folosirea codului fiscal ar ridica, în plus, întrebări constituționale, în condițiile unei „sechestrări” de 50% în acțiuni. Varianta Altman evită acest tip de risc, dar depinde integral de participarea voluntară a companiilor, ceea ce ar face fondul „atât de mare sau de mic pe cât decide industria”. Ce urmează Trump a indicat că întâlnirea cu companiile de AI va avea loc „săptămâna viitoare”, însă nu există o agendă publică, nu sunt confirmate companii participante și nu există un cadru legal conturat. În fundal, The Next Web plasează discuția într-un peisaj de politici fragmentate la Washington, descris și în analiza sa despre disputa internă privind cine reglementează AI, disponibilă aici . În lipsa detaliilor, rămâne deschis dacă inițiativa va produce un mecanism real de distribuire a câștigurilor (de tip dividende) către populație sau va rămâne o dezbatere politică fără implementare, mai ales în condițiile în care chiar arhitectura propusă poate intra în conflict cu obiectivul de reglementare a siguranței în AI. [...]
Gemini Desktop 0.12 aduce Google Gemini ca aplicație nativă în Windows, cu file pentru conversații și notificări la finalizarea răspunsurilor , potrivit WinFuture — o schimbare care mută utilizarea chatbotului din browser într-un flux de lucru mai „operațional”, cu comenzi rapide și ferestre dedicate. Aplicația (neoficială) funcționează pe Windows 10 (32-bit și 64-bit) și Windows 11. WinFuture notează că pe GitHub este disponibil codul-sursă, iar de acolo pot fi descărcate și versiuni pentru Windows 11 ARM64, macOS și Linux. După prima pornire, utilizatorii trebuie să se autentifice cu un cont Google pentru a folosi software-ul. Ce se schimbă în utilizarea de zi cu zi Gemini Desktop oferă acces direct la funcțiile Google Gemini — inclusiv chat și generare de imagini — într-o fereastră separată, fără browser. Accentul este pe productivitate: aplicația poate păstra mai multe conversații deschise simultan, afișate ca file (tabs), cu comutare rapidă între ele. Un alt element practic menționat este notificarea de tip pop-up atunci când Gemini a terminat de generat un răspuns, utilă mai ales când răspunsurile durează mai mult. Hotkey-uri, „spotlight chat” și opțiuni de control O parte dintre funcții pot fi controlate prin combinații de taste la nivel de sistem. Printre exemplele din descriere: deschiderea unei ferestre de introducere „plutitoare” (un fel de prompt rapid) pentru a trimite întrebări fără a părăsi aplicația curentă; menținerea ferestrei în prim-plan; pornirea chatului vocal; salvarea conversației curente în format PDF. În setări, utilizatorii pot comuta între interfață deschisă și închisă la culoare și pot adăuga aplicația la pornirea automată a Windows. Securitate și confidențialitate: ce susține dezvoltatorul Dezvoltatorul afirmă că aplicația nu colectează date despre utilizatori și nici telemetrie (date de diagnostic/urmărire a utilizării) și că ar realiza doar conexiuni către domeniile Google. Autentificarea ar avea loc direct prin Google, conform descrierii. Alternative: alți clienți pentru chatboturi WinFuture indică existența unor clienți (oficiali sau neoficiali) și pentru alte sisteme populare, precum ChatGPT , Perplexity sau Claude, precum și opțiunea de a folosi o aplicație care reunește mai multe servicii într-o singură interfață (Chatbox). [...]
