Știri
Știri din categoria Inteligență artificială
Autoritățile americane cresc presiunea pentru reguli mai stricte la AI, după ce cercetători au demonstrat în fața Congresului cât de ușor pot fi „deblocate” modele de inteligență artificială pentru a furniza instrucțiuni utile în scenarii violente, de la construirea unei bombe la planificarea unui atac terorist, potrivit G4Media.
Demonstrația a avut loc la Washington, într-un briefing cu ușile închise organizat de Centrul pentru Inovare în Combaterea Terorismului și Comisia pentru Securitate Internă a Camerei Reprezentanților. Membrii Congresului au putut testa direct modele „jailbroken” (sisteme din care au fost eliminate mecanismele de siguranță), potrivit Politico, citat în material. Informația despre briefing este transmisă de MEDIAFAX, conform aceleiași surse.
Autoritățile americane pentru securitate internă au prezentat diferența dintre modelele obișnuite, care refuză solicitările periculoase, și cele „abliterate”, la care mecanismul de refuz este dezactivat.
Într-un test, cercetătorii au cerut ambelor tipuri de modele să elaboreze un plan de atac asupra evenimentului „America 250” din Washington, programat în această vară și dedicat împlinirii a 250 de ani de la independența SUA. Modelul cu protecții a refuzat cererea, invocând imposibilitatea de a oferi informații despre activități ilegale, în timp ce varianta fără restricții a generat instrucțiuni detaliate, pas cu pas, pentru comiterea unui atac.
Congresmanul republican Gabe Evans, citat de Politico, a descris miza acestor teste:
„Ceea ce am văzut acolo este ce se întâmplă când scoți aceste bariere și întrebi: «Cum fac o bombă nucleară?»”
El a adăugat că modelele fără protecții „oferă răspunsuri la toate aceste lucruri”.
Președintele comisiei, Andrew Garbarino, a relatat că a întrebat un model AI cum ar putea fi răpit un membru al Congresului.
„A generat un răspuns în mai puțin de trei secunde, cu metode, locuri și momente potrivite”, a afirmat acesta.
Deși majoritatea modelelor sunt lansate cu mecanisme de siguranță, cercetătorii și hackerii au descoperit că acestea pot fi ocolite relativ ușor. Printre metodele menționate se numără formularea solicitărilor în limbaj tehnic sau academic, astfel încât sistemele să nu le identifice ca fiind periculoase.
Autoritățile avertizează că astfel de instrumente sunt deja folosite în scopuri ostile, de la campanii de dezinformare până la tentative de atacuri cibernetice automatizate. În acest context, presiunea asupra companiilor care dezvoltă AI crește, pentru întărirea măsurilor de siguranță și limitarea accesului la conținut periculos.
La nivel federal, procesul de reglementare avansează lent în Congres, însă mai multe state americane au început să adopte propriile reguli, încercând să impună standarde mai stricte pentru utilizarea și controlul acestor tehnologii.
Congresmanul republican August Pfluger a rezumat îngrijorarea legată de limitele sistemelor:
„Este foarte înfricoșător pentru că AI-ul ar trebui să aibă limite clare”.
Recomandate
Bernie Sanders propune ca americanii să primească 1.000 de dolari pe an dintr-un fond alimentat de industria AI , printr-un proiect de lege care ar crea un fond suveran de avere și ar oferi publicului o participație de 50% în marile companii de inteligență artificială, potrivit Gizmodo . Miza este una de reglementare cu impact economic: o încercare de a transforma o parte din câștigurile generate de AI într-un mecanism permanent de redistribuire către populație. Proiectul, introdus joi de senatorul independent din Vermont, ar evalua fondul la circa 7.000 de miliarde de dolari (aprox. 32.200 de miliarde de lei), sumă derivată din evaluările actuale ale celor mai mari laboratoare AI din SUA. În această arhitectură, contribuabilii ar urma să primească o plată anuală de 1.000 de dolari (aprox. 4.600 de lei) prin fond. Sanders a susținut, într-un briefing de presă citat de publicație, că suma „probabil va crește pe măsură ce AI devine mai prosperă” și că fondul ar putea direcționa, în timp, „sume semnificative” și către programe sociale (sănătate, educație, locuire și alte nevoi de bază). Cum ar funcționa mecanismul: AI tratată ca „resursă publică” Inițiativa este propusă ca amendament la Codul fiscal american din 1986. Argumentul central din textul proiectului este că AI ar trebui tratată ca o resursă publică – similară mineralelor sau petrolului extrase de pe terenuri publice – însă profiturile sunt captate de un număr mic de companii ca și cum ar fi vorba de un produs strict privat. În formularea din proiectul de lege, valoarea economică a AI ar proveni din „inteligența colectivă a umanității”, incluzând cărți, muzică, artă, jurnalism, cod, cercetare științifică, videoclipuri, conversații, imagini și idei acumulate în timp, iar o parte dintre beneficiari ar fi obținut acest avantaj „fără permisiune, recunoaștere sau compensație”. Textul face trimitere și la precedentul fondurilor suverane: peste 100 ar funcționa în 67 de țări, inclusiv în SUA, unde este menționat ca exemplu Texas Permanent School Fund (înființat în 1854), care finanțează școlile publice din venituri obținute din resurse naturale precum petrolul și gazele. De ce contează: ideea intră în zona „bipartizană” și capătă tracțiune în industrie Gizmodo notează că Sanders nu este primul care propune ca populația să primească o participație directă în companiile AI, ca metodă de a compensa efectele economice potențial destabilizatoare ale tehnologiei. Guvernatorul Californiei, Gavin Newsom , a cerut oficialilor statului să analizeze fezabilitatea unui model cunoscut drept „capital universal de bază” (UBC), distinct de „venitul universal de bază” (UBI). Publicația mai arată că ideea a primit semnale de susținere și din sectorul AI: OpenAI și Anthropic ar fi sugerat că o formă de împărțire a câștigurilor ar putea fi necesară pentru a distribui beneficiile și pentru a amortiza pierderile de locuri de muncă asociate adoptării AI. Companiile – despre care se afirmă că ar urma să își finalizeze listările la bursă (IPO) mai târziu în acest an – au cerut și crearea unei organizații internaționale care să supravegheze și, dacă e nevoie, să încetinească dezvoltarea și implementarea modelelor AI puternice. În același registru, Elon Musk ar fi sugerat că guvernul federal ar putea fi nevoit să emită cecuri pentru a compensa perturbările de pe piața muncii, iar Forbes a relatat că Donald Trump ar evalua posibilitatea unor plăți directe printr-un acord de tip participație în laboratoare AI precum OpenAI. Diferența subliniată de Gizmodo: proiectul lui Sanders este prima formulare a acestei idei ca potențială legislație federală. Ce urmează În acest stadiu, inițiativa este un proiect de lege introdus în Senat, iar materialul nu oferă detalii despre calendarul legislativ sau șansele de adoptare. Dacă ar avansa, dezbaterea se va concentra probabil pe două puncte: cum se stabilește practic participația publică de 50% în companii private și cum se guvernează un fond de dimensiunea propusă, astfel încât plățile anuale și eventualele finanțări pentru programe sociale să fie sustenabile și predictibile. [...]
Comisia Europeană își automatizează o parte din munca de extindere cu un instrument intern de inteligență artificială , folosit pentru a verifica dacă legislația țărilor candidate este aliniată la regulile UE, pe fondul accelerării dosarelor de aderare și al presiunii pe resursele administrative, potrivit Digi24 , care citează Politico. Instrumentul, descris de doi funcționari implicați în extindere, este o creație proprie a Comisiei Europene. Executivul UE a lansat în 2024 GPT@EC, un instrument de inteligență artificială generativă destinat personalului, invocând temeri de confidențialitate și securitate legate de utilizarea unor servicii americane precum ChatGPT și Claude. Miza este una operațională: mai multe țări avansează simultan în procesul de aderare, ceea ce pune presiune pe Direcția Generală pentru Extindere și Vecinătatea de Est (DG ENEST) , structura care gestionează dosarele de aderare. În acest context, Ucraina și Republica Moldova au intrat luni în prima fază a procesului de aderare, iar Muntenegru a închis încă două capitole de aderare în această săptămână, ajungând la 16 din 33. În paralel, Albania ar înregistra progrese, în timp ce cererile Serbiei, Bosniei și Herțegovinei, Kosovo, Macedoniei de Nord și Georgiei au avansat lent sau s-au blocat. Totodată, Islanda urmează să organizeze în august un referendum pentru a decide dacă își relansează demersul de aderare, pe fondul unui context geopolitic care a crescut urgența extinderii, după invazia Rusiei în Ucraina și amenințările președintelui american Donald Trump privind anexarea Groenlandei. Comisarul pentru extindere, Marta Kos, a indicat ritmul accelerat al activității din ultimul an și jumătate: „În ultimele 16, 17 luni, am realizat mai mult decât în cei 15 ani anteriori.” Rezerve din partea țărilor candidate: AI, util mai ales la sarcini simple Potrivit Politico, există scepticism în rândul unor reprezentanți ai țărilor candidate privind utilizarea inteligenței artificiale pentru evaluări complexe. Doi funcționari din două țări candidate diferite au spus că instrumentul ar trebui folosit mai degrabă pentru traduceri și sarcini simple, nu pentru chestiuni cu grad ridicat de complexitate, invocând riscul de erori. Cadru de utilizare în instituțiile UE Articolul mai notează că și alte departamente ale Comisiei folosesc instrumente de inteligență artificială. În același timp, toate cele trei instituții principale ale UE au interzis personalului să utilizeze videoclipuri și imagini generate artificial în comunicările oficiale. [...]
OpenAI își întărește echipa de politică și strategie înainte de listare , aducând în organizație atât un nume-cheie din cercetarea AI, cât și un fost oficial din zona de politici publice, într-o mișcare care sugerează o pregătire mai atentă pentru presiunea de reglementare și pentru evaluarea riscurilor odată cu apropierea unui IPO, potrivit TechCrunch . OpenAI îl recrutează pe Noam Shazeer , descris ca „legendă” a Google DeepMind și co-lider al Gemini, precum și pe Dean Ball, fost oficial în zona de politică AI în administrația Trump. Publicația notează că mutarea se înscrie într-un val mai larg de „rotații” între marile laboratoare de inteligență artificială (Google, OpenAI, Anthropic, Meta), pe fondul competiției pentru talent și influență. De ce contează: IPO-ul aduce în prim-plan guvernanța și riscurile Dincolo de întărirea capacității tehnice, recrutarea lui Ball indică o miză directă pe guvernanță internă și pe poziționarea companiei în raport cu autoritățile, într-un moment în care politicile pentru „modele de frontieră” (cele mai avansate sisteme AI) devin un subiect central pentru investitori și pentru reglementatori. Ball a anunțat că, din 6 iulie, va conduce la OpenAI o echipă nouă, „ Strategic Futures ”, cu mandatul de a ajuta conducerea companiei să modeleze politica publică pentru AI de frontieră. El va raporta direct către Chief Strategy Officer, Jason Kwon. Ce va face noua echipă „Strategic Futures” Într-o postare, Ball a descris echipa drept una „mică” și cu autonomie ridicată, concentrată pe teme precum: risc catastrofal; „auto-îmbunătățire recursivă” (ideea că un sistem AI ar putea contribui la îmbunătățirea propriilor capacități, în buclă); impact asupra pieței muncii; relația dintre laboratoarele de AI de frontieră, guverne (în special guvernul federal al SUA) și societate. Ball a mai spus că echipa va acoperi atât politica publică „la vedere”, cât și guvernanța internă, subliniind că, „aproape prin necesitate”, laboratoarele AI vor ajunge să conducă decizii de guvernanță. Recrutarea lui Shazeer: întărire tehnică, cu potențial de controversă Noam Shazeer a anunțat plecarea de la Google, unde lucrase din 2000, cu o pauză de trei ani în care a cofondat startup-ul Character AI. TechCrunch amintește că Google l-a reangajat în urmă cu doi ani într-o tranzacție de 2,7 miliarde de dolari, care a oferit gigantului acces la tehnologia Character AI. Shazeer este creditat ca unul dintre oamenii de bază ai AI generative moderne, fiind coautor al lucrării din 2017 „Attention Is All You Need”, care a introdus arhitectura Transformer (fundamentul multor modele lingvistice actuale). Publicația menționează și că, potrivit The Information, Shazeer a avut intervenții pe teme politice pe forumuri interne, unele postări fiind șterse de management; rămâne de văzut dacă aceste controverse îl vor urma la noul angajator. Context: presiunea politică asupra rivalilor crește TechCrunch leagă recrutarea lui Ball de un moment în care Anthropic se confruntă din nou cu guvernul SUA: președintele Donald Trump a ordonat recent o interdicție de export pentru cele mai noi modele ale companiei, Fable 5 și Mythos 5, ceea ce ar fi forțat Anthropic să le retragă pentru a evita neconformarea. Publicația precizează că a contactat OpenAI pentru informații suplimentare. [...]
Utilizarea modelului Grok în operațiuni militare americane devine argument juridic pentru menținerea centrelor de date xAI , după ce un înalt oficial al Pentagonului a susținut, într-o declarație depusă în instanță, că tehnologia a fost folosită în acțiuni împotriva Iranului, potrivit Adevărul . Afirmația apare într-un proces care contestă legalitatea unor centre de date operate de xAI, compania lui Elon Musk care dezvoltă modelul de inteligență artificială (AI) Grok. Cameron Stanley, responsabil pentru programele de AI și transformare digitală ale Departamentului Apărării, susține că funcționarea continuă a infrastructurii care susține Grok este „o chestiune de importanță majoră pentru securitatea națională”. Potrivit documentului citat, sistemul ar fi fost utilizat într-o operațiune în care peste 2.000 de muniții au fost lansate asupra a aproximativ 2.000 de ținte într-un interval de 96 de ore, informație atribuită de articol publicației The Independent. De ce contează: infrastructura xAI, tratată ca activ strategic în instanță Miza procesului depășește disputa de mediu: Departamentul Justiției argumentează că limitarea activității xAI ar afecta capacitatea Pentagonului de a dezvolta și moderniza sisteme esențiale pentru apărare. În aceeași logică, Stanley afirmă că centrele de date folosite pentru antrenarea și operarea modelelor AI pot furniza capacități energetice suplimentare în situații de criză sau conflict armat și reprezintă un avantaj tehnologic pentru SUA. În acest context, documentele depuse în instanță sunt prezentate ca una dintre cele mai explicite confirmări oficiale privind utilizarea tehnologiilor dezvoltate de xAI în operațiuni militare americane. Ce rol ar fi avut AI și ce limite sunt menționate Stanley susține că Grok se află între puținele modele AI considerate capabile să sprijine aplicații de securitate națională și operațiuni în medii cu nivel ridicat de clasificare (adică în regim de informații secrete). Articolul notează și controversa mai largă privind folosirea AI în identificarea și analiza țintelor, mai ales pe fondul unor atacuri soldate cu victime civile. Totuși, este precizat că astfel de sisteme nu generează direct ținte, ci oferă sprijin analitic decidenților umani. Țintele din operațiunea menționată ar fi fost identificate cu ajutorul Maven Smart System , dezvoltat de Agenția Națională de Informații Geospațiale a SUA, o platformă care folosește AI pentru a analiza și organiza volume mari de date pentru personal militar și de informații. Procesul: acuzații privind turbine pe gaz și autorizații de mediu Declarațiile Pentagonului au fost depuse într-un proces intentat de organizația pentru drepturi civile NAACP , care susține că xAI operează zeci de turbine alimentate cu gaz fără autorizațiile și măsurile de control al poluării cerute de legislația federală privind calitatea aerului. Reclamanții afirmă că xAI folosește cel puțin 57 de turbine pentru alimentarea centrului de date Colossus 2. Presiune pentru reguli mai stricte privind AI militar Pe fondul extinderii utilizării AI în apărare, mai mulți parlamentari americani cer reguli mai stricte. Printre propuneri se află un proiect inițiat de senatoarea Kirsten Gillibrand, care urmărește să mențină deciziile privind folosirea forței letale exclusiv la comandanți umani și să interzică utilizarea AI în decizii legate de arme nucleare, supraveghere internă și sisteme autonome de armament. Separat, articolul menționează un conflict între Pentagon și Anthropic (dezvoltatorul modelului Claude), după ce negocierile ar fi fost blocate de solicitarea companiei privind limitarea utilizării tehnologiei sale în activități precum supravegherea internă sau operarea dronelor autonome; litigiul este în desfășurare. Până la momentul relatării, xAI nu a oferit un răspuns public la afirmațiile din documentele judiciare citate. [...]
BT Go a trecut de 600.000 de companii utilizatoare, iar BT adaugă în aplicație un asistent cu inteligență artificială , mizând pe automatizarea accesului la informații și pe reducerea timpului pierdut de antreprenori în operațiuni curente, potrivit Banca Transilvania . Asistentul virtual, numit Chat BT , este integrat direct în BT Go și oferă informații în română și engleză despre funcționalitățile aplicației, dar și despre produsele și serviciile băncii dedicate antreprenorilor. Utilizatorii pot continua conversația, la nevoie, prin chat cu o persoană din echipa băncii. Ce indică volumul de utilizare: tranzacții, valută, depozite și extrase În primele cinci luni din 2026, BT Go a înregistrat, conform băncii: peste 5.000 de companii care și-au deschis cont 100% online, prin aplicație; aproape 24 de milioane de tranzacții, în valoare de 288 de miliarde de lei; circa 720.000 de schimburi valutare; 75.500 de depozite noi, în valoare de 6,8 miliarde de lei; peste 2.000 de carduri emise direct din BT Go; 5 milioane de extrase de cont descărcate. Banca mai arată că 31.000 de companii care folosesc BT Go au cont în FGO , soluție de facturare. Cum a fost testat Chat BT și la ce e folosit Chat BT a trecut printr-o etapă pilot de aproximativ o lună, în care 5.000 de clienți unici au avut 35.000 de interacțiuni cu asistentul virtual, potrivit datelor comunicate. Rolul acestuia este să ajute antreprenorii să găsească rapid informații despre operațiuni, plăți, extrase și produse BT, cu obiectivul declarat de eficientizare a activității zilnice. „Vedem creșteri accelerate privind numărul de utilizatori, volumul tranzacțiilor și rata de adopție în ceea ce privește BT Go. Venim cu soluții care, datorită tehnologiei, cresc eficiența pentru că extind funcționalitățile de plată, cele mai multe având legătură cu extrasele de cont și cu optimizarea fluxurilor de lucru. Ne-am propus ca BT Go să devină platforma de business pentru orice antreprenor datorită soluțiilor la nevoile de zi cu zi pe care le oferă.” BT a mai comunicat că BT Go are rating 4,7 în App Store și 4,8 în Google Play Store, iar Net Promoter Score (NPS) este 82 din 100, calculat pe baza feedback-ului clienților care și-au deschis cont în BT Go în perioada ianuarie–mai 2026. [...]
Alibaba mută „inteligența” roboților în cloud, cu teste pilot la clienți enterprise , încercând să transforme modelele sale de limbaj în capabilități operaționale pentru navigație și manipulare în lumea reală, potrivit Interesting Engineering . Compania chineză a lansat prima sa familie de modele de „AI întrupat” (embodied AI – sisteme care leagă percepția și limbajul de acțiuni fizice), sub numele Qwen-Robot. Suita este dezvoltată de Tongyi Lab și se află în testare pilot cu anumiți clienți enterprise ai Alibaba Cloud , ceea ce indică o direcție de produs orientată spre utilizare comercială, nu doar demonstrații de laborator. Ce include suita Qwen-Robot și ce problemă încearcă să rezolve Alibaba descrie trei modele specializate, fiecare vizând o „componentă” diferită a inteligenței fizice: Qwen-RobotNav : model pentru mișcare și navigație – urmarea instrucțiunilor, deplasare către locații, urmărirea țintelor și suport pentru conducere autonomă. Qwen-RobotManip : model pentru interacțiune fizică – prindere, mutare și manipulare de obiecte, antrenat pe date din sisteme robotice diferite. Qwen-RobotWorld : „model al lumii” – estimează cum se pot schimba mediile și ajută robotul să anticipeze consecințele acțiunilor. Miza, în logica prezentată de companie, este conectarea înțelegerii limbajului și a imaginilor (modele vizual-lingvistice) cu controlul efectiv al mișcărilor. Alibaba punctează și o constrângere practică: datele de antrenare pentru roboți sunt costisitoare, eterogene (navigație, brațe robotice, vehicule, camere) și greu de combinat fără conflicte. Demonstrații și indicatori tehnici menționați Într-o demonstrație, Alibaba a arătat Qwen-RobotNav pe un robot patruped Unitree Go2 , echipat cu hardware NVIDIA Jetson Thor și o singură cameră cu rezoluție redusă. Robotul ar fi navigat într-un apartament necunoscut, pe baza instrucțiunilor vocale, fără hărți preîncărcate, cu o latență de inferență de 196 milisecunde . Pentru Qwen-RobotManip, compania afirmă că modelul a fost antrenat pe peste 38.000 de ore de date open-source pentru sarcini de manipulare și interacțiune cu obiecte. Alibaba mai susține că modelul a obținut cel mai mare scor la categoria „generalist” din benchmark-ul RoboChallenge pentru robotică în lumea reală: process score 59,83 și rată de succes a sarcinilor 45% . Separat, Alibaba a prezentat Qwen-RobotClaw , un cadru de tip „agent” (software care orchestrează pași și instrumente pentru a îndeplini o sarcină) ce permite modelelor Qwen să folosească suita Qwen-Robot ca „unelte” pentru lumea fizică. Într-un exemplu, agentul ar fi căutat o toaletă, a identificat un semn „defect” și s-a redirecționat autonom. Compania a mai făcut open-source Chat2Robot , o platformă în browser pentru testarea interacțiunilor de embodied AI. De ce contează: intrarea Alibaba într-o cursă cu miză industrială Mișcarea Alibaba vine pe fondul intensificării competiției globale în „AI fizic”, cu inițiative menționate în material precum Gemini Robotics (Google DeepMind) și extinderea ecosistemului de robotică al Nvidia (Cosmos, Isaac, GR00T), dar și start-up-uri precum Physical Intelligence, Skild AI și Figure AI (atribuite South China Morning Post). Pentru China, aceeași sursă notează că avantajul de producție este completat de investiții în software de decizie autonomă, într-un ecosistem care include dezvoltatori AI, companii de robotică și producători de vehicule electrice. În acest context, testarea pilot cu clienți enterprise ai Alibaba Cloud sugerează că următorul pas relevant va fi trecerea de la performanțe în demonstrații și benchmark-uri la implementări repetabile în operațiuni reale. [...]
