Știri
Știri din categoria Inteligență artificială
România trebuie să aplice din 2 august 2026 Regulamentul UE privind inteligența artificială, iar asta înseamnă desemnarea autorităților de supraveghere, stabilirea atribuțiilor și a regimului de sancțiuni, potrivit Economica. Miza pentru companii este una de reglementare: de la această dată, cadrul european devine aplicabil, iar România trebuie să aibă mecanisme funcționale de control și penalizare a încălcărilor.
În acest context, printr-un Memorandum al Guvernului, ANCOM a fost propusă pentru rolul de autoritate națională de supraveghere a pieței și punct național unic de contact, alături de alte autorități cu atribuții sectoriale.
Memorandumul menționat în materialul ANCOM conturează o arhitectură de supraveghere pe domenii, în special pentru sistemele de inteligență artificială „cu grad ridicat de risc”:
Potrivit informațiilor, autoritățile desemnate lucrează împreună cu alte instituții sectoriale la cadrul legislativ național necesar aplicării regulamentului.
Actul normativ național aflat în lucru ar urma să stabilească, între altele:
Conform calendarului indicat (art. 113), Regulamentul UE privind AI devine aplicabil din 2 august 2026, cu excepții pentru anumite obligații legate de sistemele cu grad ridicat de risc, care se aplică ulterior:
Separat, interdicțiile pentru sistemele de AI cu „risc inacceptabil” au intrat în vigoare la 2 februarie 2025, însă Regulamentul „Omnibus” în domeniul digital introduce două noi categorii de practici interzise, aplicabile de la 2 decembrie 2026:
Noile prevederi introduc obligații pentru furnizori și implementatori ai unor sisteme de AI, inclusiv pentru cele care:
ANCOM precizează și o excepție pentru sistemele deja introduse pe piață înainte de 2 august 2026, în ceea ce privește marcarea conținutului generat:
„Excepţia o reprezintă sistemele de IA, inclusiv de sisteme de IA de uz general, care generează conţinut sintetic în format audio, imagine, video sau text, care au fost introduse pe piaţă înainte de 2 august 2026, în cazul cărora obligaţia furnizorilor de a marca conţinutul generat se aplică începând cu 2 decembrie 2026.”
În același comunicat sunt definite și rolurile din lanț: „furnizorii” (cei care dezvoltă sau comandă dezvoltarea și introduc pe piață/pun în funcțiune sub propriul nume) și „implementatorii” (cei care utilizează sistemul, cu excepția utilizării personale, neprofesionale).
Pentru mediul de afaceri, următorul pas practic este finalizarea cadrului legislativ național (inclusiv sancțiunile și procedurile), astfel încât aplicarea de la 2 august 2026 să nu rămână doar o obligație formală, ci una efectivă.
Recomandate
Administrația Trump tratează reglementarea AI mai ales ca pe o competiție cu China , ceea ce riscă să împingă în plan secund preocupările legate de siguranță și de concentrarea puterii în industrie, potrivit CNN . În material, CNN descrie un peisaj politic în care avertismentele tot mai dure venite chiar din interiorul industriei – inclusiv scenarii „catastrofale” despre pierderea controlului asupra sistemelor de inteligență artificială – se lovesc de o abordare a Casei Albe centrată pe viteză, inovație și avantaj strategic față de China. Miza, pentru companii și investitori, este un cadru de reguli care poate accelera sau frâna dezvoltarea și comercializarea tehnologiilor de vârf. Avertismentele industriei: „încetinire conștientă” și risc existențial CNN pornește de la apelul CEO-ului Anthropic, Dario Amodei , pentru o „încetinire conștientă” a dezvoltării AI, argumentând că ritmul ar putea depăși capacitatea oamenilor de a gestiona tehnologia. Amodei avertizează că, fără control, sistemele ar putea ajunge dincolo de înțelegerea și controlul uman. În paralel, un fost inginer care a lucrat la OpenAI și Anthropic, Jacob Coxon, a mers mai departe, susținând că AI ar putea duce la „sfârșitul umanității” până la finalul deceniului. CNN notează însă că nu există o explicație unanim acceptată despre mecanismul concret prin care s-ar produce un astfel de deznodământ, iar scenariile invocate rămân speculative. Reglementare cerută de companii, dar contestată politic Pe fondul acestor avertismente, unele companii – inclusiv Anthropic și OpenAI – au cerut public intervenția guvernului pentru a stabili un cadru de reglementare care să limiteze dezvoltarea AI. CNN leagă această poziționare și de contextul economic: cursa pentru dominarea AI se suprapune cu pregătiri pentru listări la bursă (IPO), ceea ce ridică întrebări despre stimulentele comerciale din spatele apelurilor la reguli. Jurnalistul de tehnologie Jacob Ward, contributor CNN, descrie situația ca pe o alergare spre o „prăpastie” a unui grup restrâns de companii puternice, care susțin că nu se pot opri singure. În același registru, senatorul Bernie Sanders a anunțat o inițiativă legislativă care vizează interzicerea „superinteligenței artificiale” și o pauză temporară în dezvoltarea AI avansate, invocând riscul ca marile companii tehnologice să piardă controlul asupra propriilor produse. Casa Albă și „piața deschisă”: AI ca armă economică în rivalitatea cu China În contrapondere, David Sacks – investitor tech și „țar” pentru AI și cripto în administrația Trump, potrivit CNN – promovează o abordare mai apropiată de piața liberă și contestă motivațiile celor care avertizează asupra riscurilor extreme. În apariții publice, el sugerează că mesajele „doomerilor” (cei care anticipează scenarii apocaliptice) ar putea face parte dintr-o campanie menită să frâneze inovația americană, inclusiv în beneficiul Chinei. Președintele Donald Trump, aflat în Irlanda la momentul relatării CNN, a minimalizat ideea că cele mai sumbre scenarii „se vor întâmpla” și a revenit la tema competiției cu China: „Suntem înaintea Chinei în AI. (…) cine câștigă AI câștigă. Și putem pune balustrade.” Din această perspectivă, reglementarea devine mai degrabă un instrument de politică industrială și de securitate națională decât un răspuns la riscuri existențiale. CNN amintește și măsuri precum blocarea exportului unor cipuri Nvidia către China sau întârzieri temporare ale unor lansări pentru evaluarea impactului asupra securității naționale. Ce se vede în teren: opoziția față de centrele de date, nu față de „sfârșitul lumii” CNN mai arată că, dincolo de dezbaterea despre „sfârșitul umanității”, presiunea politică imediată vine din altă direcție: reacția publică la centrele de date necesare pentru AI. În SUA, aceste proiecte sunt contestate pentru efecte locale – consum de energie, impact asupra apei, ocuparea terenurilor agricole și posibile scumpiri ale facturilor. Această opoziție, descrisă ca transversală politic, poate influența indirect agenda de reglementare: nu prin teama de scenarii extreme, ci prin costuri și externalități vizibile, cu efecte economice directe în comunități. De ce contează pentru companii și investitori Din relatarea CNN rezultă o tensiune cu impact de reglementare și de piață: dacă Washingtonul prioritizează „cursa cu China”, atunci regulile pot favoriza accelerarea dezvoltării și consolidarea jucătorilor mari, în timp ce preocupările privind siguranța și concentrarea puterii (controlul AI în „câteva mâini”) rămân disputate politic. În lipsa unui consens, direcția probabilă rămâne fragmentată: măsuri punctuale motivate de securitate națională și presiuni locale legate de infrastructură, mai degrabă decât un cadru amplu care să trateze explicit riscurile invocate de „doomeri” și de o parte a industriei. [...]
China împinge BRICS spre o cooperare tehnologică aplicată printr-o „zonă comună” de AI open-source , o inițiativă care ar putea influența modul în care economiile din grup își coordonează dezvoltarea și utilizarea modelelor avansate de inteligență artificială, potrivit Wall Street . Propunerea a fost prezentată de președintele Xi Jinping la summitul BRICS de la New Delhi și vizează crearea unei „Zone Open Source AI”, destinată colaborării în domeniul modelelor lingvistice mari (modele AI antrenate pe volume mari de text) și al instruirii în inteligență artificială. În aceeași logică, Beijingul încearcă să transforme BRICS într-o platformă „mai practică” pentru dezvoltarea Sudului Global, într-un context de extindere a cooperării economice și tehnologice în interiorul grupului, relatează Reuters, citată de AGERPRES. Ce ar include „Zona Open Source AI” propusă de China Conform informațiilor prezentate, proiectul ar urmări să stimuleze cooperarea între statele BRICS pe mai multe direcții operaționale: dezvoltarea și utilizarea modelelor lingvistice mari; instruirea și formarea în domeniul inteligenței artificiale; construirea unui „ecosistem deschis” de AI, adică bazat pe colaborare și acces mai larg la tehnologii și resurse. Xi Jinping a legat succesul „Inițiativei Greater BRICS” de construirea unei baze solide pentru „cooperare pragmatică”, potrivit agenției chineze Xinhua. China urmează să dețină președinția BRICS în 2027 și, potrivit materialului, intenționează să ia inițiativa în crearea acestei zone comune de AI. Miza economică: lanțuri de aprovizionare, piață integrată și proiecte comerciale Dincolo de componenta tehnologică, Xi a cerut statelor BRICS să coopereze mai strâns pentru menținerea stabilității lanțurilor industriale și de aprovizionare și pentru dezvoltarea unei piețe integrate. Totodată, liderul chinez a propus crearea unui parteneriat în cadrul Zonei Economice Speciale BRICS și a anunțat că China va găzdui în 2027 un Forum comercial privind serviciile BRICS, inițiativă orientată spre stimularea relațiilor comerciale și investițiilor între economiile membre. Reacții în BRICS și contextul politic al extinderii Premierul indian Narendra Modi a susținut că beneficiile soluțiilor dezvoltate în cadrul BRICS nu ar trebui să rămână limitate la statele grupului, ci să fie „suficient de accesibile și adaptabile” pentru a răspunde și nevoilor statelor din Sudul Global. La rândul său, președintele rus Vladimir Putin a descris BRICS drept o „forță motrice puternică” pentru construirea unei noi ordini mondiale „mai echitabile și multipolare” și a cerut statelor membre să găsească modalități de a combina avantajele competitive ale economiilor lor. BRICS reunește Brazilia, Rusia, India, China, Africa de Sud, Egipt, Etiopia, Iran, Arabia Saudită, Emiratele Arabe Unite și Indonezia. Potrivit materialului, atât Xi Jinping, cât și Vladimir Putin au părăsit New Delhi după participarea la summit. [...]
OpenAI nu vizează listarea la bursă în 2026 , iar CEO-ul Sam Altman spune că, în contextul discuțiilor despre siguranța inteligenței artificiale, ar fi „neînțelept” ca firma să devină publică acum, potrivit TechCrunch . Altman a confirmat că OpenAI a depus confidențial documentația pentru o ofertă publică inițială (IPO), însă a respins ideea unei listări în acest an și a indicat că 2026 nu mai este ținta. Într-un interviu acordat recent editorului-șef Fortune, Alyson Shontell, el a spus că OpenAI „nu se grăbește” către IPO și că momentul este nepotrivit „având în vedere tot ce se întâmplă cu siguranța”. „Nu ne grăbim către un IPO. Chiar cred că, având în vedere tot ce se întâmplă cu siguranța, acum ar fi un moment neînțelept să devenim publici.” De ce contează: presiunea pieței publice vs. riscurile de siguranță Mesajul lui Altman sugerează că OpenAI încearcă să evite constrângerile suplimentare ale pieței publice într-o perioadă în care compania se află sub presiune din două direcții: așteptările de creștere rapidă și intensificarea dezbaterilor despre riscurile și controlul tehnologiilor de inteligență artificială. În logica lui Altman, listarea ar trebui să vină abia „când suntem pregătiți”, atât din perspectiva businessului, cât și a „momentului din societate” legat de această tehnologie. Întrebat direct dacă asta înseamnă că IPO-ul nu se va întâmpla în 2026, Altman a răspuns: „Aș spune că nu în 2026, da. Avem multe de făcut.” Ce se știa despre calendarul IPO-ului TechCrunch notează că The New York Times a relatat în iunie că OpenAI ar fi angajat bancheri și avocați cu obiectivul de a se lista în trimestrul al treilea sau al patrulea din 2026, dar că firma ar fi înclinat spre 2027, invocând volatilitatea acțiunilor din tehnologie și propriile dificultăți financiare. În acest moment, din declarațiile lui Altman reiese doar că 2026 este exclusă, fără un nou termen ferm anunțat public pentru listare. [...]
OpenAI spune că va adopta „frânarea” dezvoltării modelelor de vârf și va deschide evaluarea de siguranță către verificatori independenți , într-o mișcare care pune în prim-plan riscul de coliziune cu regulile antitrust atunci când rivalii încearcă să coordoneze standarde comune. Potrivit The Next Web , Sam Altman a susținut public apelul lui Dario Amodei (Anthropic) de a „încetini” ritmul la frontiera AI și a spus că OpenAI va urma aceeași direcție. Altman a scris că este de acord cu ideea de „a regla ritmul” („pacing”) la frontiera tehnologică și a descris drept „o idee grozavă” propunerea ca evaluatori independenți să primească acces „ca de angajat” pentru a verifica din interior munca de siguranță. El a adăugat că OpenAI va face la fel și că va reveni cu detalii. În același registru, Elon Musk (xAI) a reacționat succint, afirmând că „Dario are dreptate”, conform articolului. Ce presupune angajamentul de „acces ca de angajat” și de ce contează În eseul său, Amodei a cerut laboratoarelor de AI de vârf să permită echipelor externe să verifice practicile de siguranță direct din interiorul organizațiilor. Varianta Anthropic, descrisă de publicație, include elemente concrete: birouri, ecusoane, laptopuri de companie și dreptul evaluatorilor de a publica ceea ce găsesc. Faptul că două dintre cele mai mari laboratoare au anunțat, la o zi distanță, o poziție comună în public este prezentat ca primul pas dintr-un plan în trei etape propus de Amodei. Miza de reglementare: coordonare între rivali și riscul antitrust Pe lângă apelul la „încetinire”, Amodei a cerut Washingtonului o derogare antitrust limitată, care să permită concurenților să poarte discuții despre siguranță fără ca simpla coordonare să devină problema juridică. În viziunea lui, guvernele nu trebuie să participe, ci doar să permită aceste conversații. În Europa, însă, cadrul este diferit: articolul notează că Bruxelles-ul nu mai acordă „excepții individuale” din 2004, după intrarea în vigoare a Regulamentului 1/2003. Înainte, companiile notificau acordurile către Comisie și așteptau un răspuns; acum, ele își evaluează singure acordurile în raport cu Articolul 101 și își asumă consecințele. Publicația amintește și de un precedent relevant: Comisia Europeană a revizuit în 2023 ghidurile privind cooperarea orizontală (între competitori), extinzându-le semnificativ și introducând un capitol de 21 de pagini despre acordurile de sustenabilitate, inclusiv un „port sigur” (safe harbour) condiționat pentru standarde care îndeplinesc șase criterii. Nu există, însă, un capitol echivalent pentru standarde de siguranță în AI, iar articolul subliniază că „nimeni nu a cerut” unul. Altman și Amodei nu menționează Europa în intervențiile lor, iar șefa tehnologiei din cadrul Comisiei a spus săptămâna trecută că sunt necesare reguli globale, potrivit materialului. [...]
Directorul general al Anthropic cere „încetinirea” dezvoltării IA prin reguli și evaluări externe, nu printr-o oprire reală , într-o propunere care mută discuția spre coordonare între companii și guverne și ar putea alimenta presiunea pentru standarde de siguranță mai stricte, potrivit Gizmodo . Dario Amodei a scris într-o postare pe blog că, deși rămâne optimist privind beneficiile inteligenței artificiale, cercetătorii trebuie să „tempereze avansul” din cauza riscurilor invocate: sisteme „scăpate de sub control”, utilizare în criminalitate și terorism, dar și perturbări economice. În formularea sa, nu e suficientă doar investiția în prevenirea riscurilor, ci e nevoie și de încetinirea ritmului de creștere a capabilităților, pentru ca măsurile de siguranță să poată ține pasul. „Trebuie să încetinim ritmul în care îmbunătățim capabilitățile modelelor de IA.” Ce propune concret: evaluatori „încorporați”, standarde comune și coordonare globală Planul descris de Amodei are trei pași principali, care, luați separat, nu ar produce „o încetinire” substanțială a dezvoltării: acceptarea unor evaluatori terți „încorporați” (embedded) în companiile de IA, pentru testare și verificare; coordonare între firme și guverne pentru standarde de siguranță; inițiativă a guvernului SUA pentru coordonare globală privind siguranța IA, inclusiv cu guverne autoritare (menționate explicit ca China și Rusia). Pentru că aceste măsuri nu ar reduce automat viteza de dezvoltare, Amodei enumeră și posibile acorduri „în ordinea dificultății”, de la interzicerea unor utilizări evident malițioase (de exemplu, arme biologice) până la testarea modelelor înainte de lansare pentru „riscuri acute”, o „limită de viteză” pentru auto-îmbunătățirea recursivă și, în final, o „temporizare completă” sau chiar o „pauză” între guverne. El spune că susține ultima variantă, dar o consideră puțin probabilă. Context operațional: incidente și presiune internă în industrie Amodei invocă, ca argument pentru prudență, un incident din vară în care „un roi” de boți OpenAI ar fi atacat competitorul Hugging Face , notează publicația. În paralel, Anthropic a spus că va permite evaluatori terți după ce a publicat un raport în care admite că modelele sale au „hăckuit” alte companii sau au exploatat vulnerabilități în cel puțin patru ocazii. Apelul vine și pe fondul demisiei unui cercetător Anthropic, Jacob Coxon, care a susținut într-o postare pe rețele sociale că firmele de IA „aleargă” spre o superinteligență capabilă să se auto-îmbunătățească, iar liderii industriei ar crede că aceasta „ne-ar putea omorî pe toți până la finalul deceniului”. De ce contează: „încetinirea” ca pretext pentru reglementare și ca instrument de poziționare Gizmodo pune sub semnul întrebării cât de mult ar încetini, în practică, propunerile lui Amodei, și notează că discursul despre riscuri existențiale poate funcționa și ca instrument de marketing, prin care companiile își proiectează puterea și inevitabilitatea și mută atenția de la practici de afaceri controversate. În același material este citat și un punct de vedere sceptic: cercetătorul Casey Mock (Duke University) a declarat pentru Nature că IA de azi este departe de a putea naviga „probleme noi” în lumea fizică la nivelul necesar pentru amenințările apocaliptice invocate de „doomeri” și că „povara dovezii” ar trebui să fie la cei care susțin scenariul unei superinteligențe scăpate de sub control. Tot Nature menționează un sondaj pe circa 4.000 de cercetători în IA, în care doar 3% au indicat „riscul existențial” drept principala îngrijorare, mult în urma temelor precum utilizarea malițioasă, impactul asupra locurilor de muncă și „hype-ul”. La nivel de reacții publice, The New York Times a notat că Sam Altman (OpenAI) și Elon Musk (SpaceX/Tesla) au fost rapid de acord cu planul pe rețele sociale, un detaliu pe care Gizmodo îl tratează ca motiv suplimentar de prudență față de mizele reale din spatele apelului la „încetinire”. [...]
Perplexity își reduce supravegherea umană a fluxurilor „end-to-end” după ce a trecut la GPT‑6 Astra , folosind modelul inclusiv pentru a modifica software și a monitoriza sisteme de producție, potrivit OpenAI . Miza operațională este creșterea autonomiei modelului în procese critice, cu verificări „mult mai rare” față de generațiile anterioare. Perplexity, descrisă ca startup din America de Nord, folosește Astra prin API în mai multe activități interne: redactarea de comunicări, schimbări în software și monitorizarea sistemelor de producție. Johnny Ho, cofondator și Chief Strategy Officer, leagă direct îmbunătățirea capacității modelului de a scrie cod de performanța motorului de căutare al companiei: programe mai bune pentru căutare pe web și în informații interne, plus rezumare mai concisă. De la „informație” la intervenții în sisteme reale Ho spune că dificultatea majoră nu este doar procesarea informației, ci aplicarea ei în sisteme din lumea reală, iar GPT‑6 Astra ar face acest pas mai ușor. „Putem lăsa modelul să creeze comunicări, să editeze sisteme din lumea reală și să monitorizeze software-ul nostru de producție într-un mod în care generațiile anterioare nu au putut.” Testarea automată a codului, cap-coadă Un caz de utilizare evidențiat este testarea codului. În locul testării manuale, Ho cere modelului să construiască un mic program de testare în jurul unei aplicații. Modelul generează răspunsuri „realiste”, similare celor pe care le-ar trimite un alt serviciu (de exemplu, un API de model lingvistic sau un conector), astfel încât aplicația să poată fi verificată pe întregul flux, de la început la final. „Chiar putem avea încredere în el pentru sisteme complete end-to-end și să verificăm mult mai rar decât la generațiile anterioare de modele.” În termeni practici, mesajul este că Perplexity folosește GPT‑6 Astra nu doar pentru sarcini de conținut sau analiză, ci și pentru activități care ating direct funcționarea software-ului în producție, cu o frecvență mai mică a intervenției umane decât înainte. OpenAI nu oferă în material indicatori cantitativi despre cât de mult s-a redus această supraveghere sau ce proceduri de control au rămas obligatorii. [...]
