Știri
Știri din categoria Diverse
Un raport care susține că „neuronii” din modelele de inteligență artificială pot fi interpretați ar putea schimba modul în care companiile testează și controlează riscurile IA, într-un moment în care cercetătorii avertizează că unele sisteme ar putea să-și ascundă intențiile, potrivit Știrile Pro TV.
Miza este una operațională: dacă „interiorul” rețelelor neuronale devine mai ușor de înțeles, inginerii ar putea avea instrumente mai bune pentru a verifica ce se întâmplă între datele de intrare și răspunsurile generate de model, nu doar pentru a evalua rezultatul final. Materialul citează Business Insider, care notează că, până recent, o parte din eforturile de siguranță s-au bazat pe „raționamentul în lanț” – adică explicațiile pas cu pas pe care IA le oferă despre cum a ajuns la un răspuns.
Autorul raportului este Nick Cammarata, cercetător independent care spune că a părăsit OpenAI în 2023. El susține că rețelele neuronale ale IA pot fi „inteligibile” dacă sunt analizate suficient de atent și oferă un exemplu: un singur „neuron” ar putea reacționa atât la o pisică, cât și la partea din față a unei mașini, pentru că modelul identifică o trăsătură comună (de pildă, o formă triunghiulară).
În acest context, Cammarata afirmă că o mare parte din rețea ar putea fi interpretabilă, contrar ideii mai vechi că acești „neuroni” nu pot fi descifrați. În termeni simpli, discuția este despre cât de mult pot înțelege oamenii mecanismele interne ale unui model antrenat, nu programat cu instrucțiuni explicite pentru fiecare situație.
Articolul indică și o vulnerabilitate pentru abordările curente de siguranță: Jakub Pachocki, omul de știință șef al OpenAI, a avertizat luna trecută că agenții IA ar putea să își ascundă raționamentul vizibil, ceea ce ar lăsa deschisă posibilitatea ca un agent să mintă.
În acest cadru, o metodă care ar permite „citirea” mai directă a modului în care reacționează neuronii la stimuli ar putea deveni relevantă pentru echipele care încearcă să se asigure că oamenii păstrează controlul asupra modelelor.
Impactul potențial este reflectat și de reacțiile din comunitate. Andrew Curran, prezentat drept analist IA, a scris pe X că renunțase să mai spere la un nivel real de interpretabilitate înainte de apariția „superinteligenței”, iar importanța unei astfel de evoluții ar fi „greu de supraestimat”.
„Renunțasem de mult să mai sper la vreun nivel real de interpretabilitate înainte de apariția superinteligenței. M-am oprit din a scrie despre asta pentru cât de demoralizator era. Greu de supraestimat cât de mare poate fi acest lucru.”
Materialul nu oferă, însă, o validare independentă a concluziilor raportului și nici detalii despre testarea lor în produse comerciale, astfel că rămâne de văzut în ce măsură aceste idei se vor traduce în instrumente utilizabile în practică pentru audit și siguranță IA.
Recomandate
Kelemen Hunor susține că președintele trebuie să rămână „aproape imun” la presiuni , chiar dacă ritmul deciziilor poate fi perceput ca lent, într-o perioadă de criză politică, potrivit Digi24 . Mesajul are o miză operațională: setează așteptări despre cum ar trebui să funcționeze instituția prezidențială sub presiune și ce tip de comportament politic este considerat acceptabil în luarea deciziilor. În declarațiile făcute la TVR 1, liderul UDMR a spus că Nicușor Dan „are un anumit ritm, care pentru unii e mai încet”, dar că „nu poți să-l bănuiești de răutate”. Hunor a adăugat că nu are „toate elementele” despre ce s-a întâmplat în contextul crizei politice și că, din această cauză, nu vrea să comenteze deciziile concrete ale președintelui. „Imun la presiune” ca regulă de funcționare Kelemen Hunor a argumentat că un președinte nu ar trebui să cedeze presiunilor, indiferent de sursa lor, și că trebuie să își păstreze direcția. În logica expusă de liderul UDMR, cedarea la presiuni ar duce la schimbări frecvente de direcție, incompatibile cu rolul instituțional al președintelui. „Face faţă, în sensul că nu cedează la presiuni şi preşedintele nici nu trebuie să cedeze la presiuni, el trebuie să fie aproape imun la presiuni.” Relația UDMR – președinte: „instituțională” și punctuală Hunor a descris relația sa cu Nicușor Dan drept „corectă” și „foarte instituțională”, cu contacte atunci când este nevoie, nu zilnic. Potrivit acestuia, comunicarea funcționează pe un mecanism simplu: „dacă are ceva de spus, mă sună, dacă am ceva de spus, sun”, iar dacă președintele nu răspunde, revine ulterior. În ansamblu, poziționarea liderului UDMR indică o apărare a unui stil prezidențial mai puțin reactiv la presiunea publică și politică, într-un moment în care viteza deciziilor este, la rândul ei, un subiect de dispută. [...]
Un proiect de lege anunțat de Bogdan Ivan ar obliga platformele sociale să verifice vârsta utilizatorilor și să blocheze accesul copiilor sub 14 ani , o schimbare cu impact direct de reglementare și de operare pentru companiile de tehnologie, potrivit Digi24 . Inițiativa vine după atacul de la o școală din Bistrița . Miza practică a proiectului este mutarea unei părți din responsabilitatea de protecție a minorilor de la părinți și școală către platforme, prin reguli care ar impune verificări și restricții tehnice înainte de crearea și folosirea conturilor. Ce ar urma să se schimbe pentru utilizatori și platforme Conform informațiilor prezentate, proiectul prevede: interzicerea accesului la rețelele sociale pentru copiii sub 14 ani ; crearea conturilor doar pe baza actului de identitate , ca dovadă a vârstei. În forma descrisă, măsurile ar presupune mecanisme de verificare a vârstei și procese de înregistrare mai stricte, cu efecte operaționale pentru platforme (fluxuri de onboarding, moderare, conformare) și potențiale implicații legate de date personale, în funcție de cum ar fi redactată legea și ce obligații concrete ar introduce. Contextul care a declanșat inițiativa Anunțul a fost făcut după incidentul de la Bistrița, unde un elev a rănit cu un cuțit o profesoară și un alt elev. Digi24 notează că subiectul a reapărut în spațiul public pe fondul discuțiilor despre influența mediului online asupra minorilor. În acest moment, articolul nu oferă detalii despre calendarul legislativ, forma finală a proiectului sau ce sancțiuni ar putea fi prevăzute pentru nerespectare. [...]
Franța introduce restricții de circulație localizate de luni seară , ca măsură de ordine publică menită să protejeze magazinele după protestele violente din weekend, potrivit Digi24 . Premierul Sébastien Lecornu spune că a cerut prefecților să „declanșeze” o serie de măsuri „parțiale” și „localizate”. Măsurile intră în vigoare luni de la ora locală 20:00 (21:00, ora României), iar primele localități vizate au fost anunțate de France Info . Unde se aplică primele restricții și în ce interval Guvernul francez a anunțat primele măsuri pentru luni și marți, între orele 20:00 și 06:00, în patru localități din departamentul Nord, inclusiv Lille, cu acordul primarilor, conform France Info . Localitățile menționate sunt: Lille Douai Denain Wattignies Prefectura a precizat că restricțiile sunt „în curs de finalizare” și vor viza doar „porțiuni” din aceste localități. Componenta de comunicare și riscul de dezinformare Pe fondul tensiunilor, Direcția Generală pentru Securitate Internă (DGSI) a dezmințit oficial, luni, pentru Le Monde , o informație difuzată de postul CNews. În emisiune, o jurnalistă de la Journal du Dimanche a susținut, citând DGSI, că protestatari apropiați unei mișcări islamiste ar circula înarmați în mai multe orașe. DGSI a transmis ziarului că neagă categoric atât că ar fi furnizat astfel de informații, cât și veridicitatea lor. Ce urmează: discuții cu sindicatele În paralel, sindicatele sunt invitate miercuri dimineață la Matignon, potrivit Le Monde, care citează o confirmare din partea președintelui CFTC, Cyril Chabanier. Întâlnirea ar urma să vizeze inclusiv modul de organizare a mobilizării din 5 noiembrie, astfel încât să se desfășoare „cât mai pașnic posibil”, conform aceleiași relatări. [...]
Audierea lui Florin Barbu pentru un nou mandat la Agricultură a degenerat în schimburi de replici care pun sub semnul întrebării credibilitatea comisiei și, implicit, încrederea fermierilor în decizia de investire , potrivit Digi24 . Disputa s-a concentrat pe subiecte cu miză pentru sector, de la subvențiile pentru stuf în Delta Dunării până la dosare de fraudă cu fonduri europene aflate în lucru la Parchetul European . Scandalul a început după ce deputatul PNL Adrian Cozma a readus în discuție cazul terenurilor acoperite cu stuf declarate pajiști pentru a putea beneficia de subvenții europene și i-a reproșat lui Barbu că ar fi fost acordate două milioane de euro pentru stuf. Barbu a respins acuzația și a susținut că „nu s-a plătit niciun ban pe stuf de la Ministerul Agriculturii”, acuzându-l pe Cozma că „duce în derizoriu” un program care ar trebui făcut „împreună pentru fermierii români”. În același schimb, ministrul propus a avertizat că disputele publice din comisie afectează încrederea fermierilor în clasa politică. „Dacă mergem pe același circ, pe aceeași retorică, dacă persistăm în prostie, fermierii români nu mai au încredere în noi, în clasa politică”, a spus Florin Barbu. Întrebări despre fonduri europene și o replică ce a stârnit rumoare Tensiunile au escaladat când un reprezentant USR l-a întrebat pe Barbu despre dosarele de fraudă cu fonduri europene aflate în lucru la Parchetul European, care vizează instituții din subordinea Ministerului Agriculturii. În intervenție a fost invocată și o declarație mai veche a ministrului despre Nicolae Ceaușescu, iar parlamentarul a criticat explicit referirea la „aurul verde” și a întrebat dacă Barbu „nu a obosit”, menționând că ar fi la a cincea nominalizare. Barbu a răspuns că nu a obosit, invocând experiența sa în administrație, apoi a avut o replică ce a provocat reacții în sală. „Nu am obosit. Am 21 de ani de administrație și nu o să obosesc niciodată (...) Nu mai persistați în prostie. Prostia este ca betonul. Odată turnată, se va întări pentru totdeauna”, a spus Florin Barbu. Disputa s-a extins între parlamentari După acest episod, Tanczos Barna, ministrul interimar al Agriculturii, i-a urat succes lui Florin Barbu pentru noul mandat, iar discuțiile în contradictoriu au continuat între parlamentari, inclusiv pe tema votului pentru noul Guvern. În sală au intervenit și alți parlamentari: unul de la SOS România i-a reproșat lui Cozma că prelungește scandalul și a cerut să nu se mai facă „circ”, iar un parlamentar neafiliat a criticat PNL și PSD, afirmând că „nu degeaba există acel slogan, cu PNL și PSD aceeași mizerie, că doar au lucrat împreună”. Un parlamentar de la PACE și-a cedat întrebarea reprezentanților PNL, motivând că vrea „să vedem cu ce stupizenie mai vin”. În lipsa altor detalii din material despre concluzia formală a audierii (aviz, vot în comisie sau calendar), rămâne de urmărit dacă tensiunile din comisie vor influența susținerea politică pentru investirea noului Executiv și, pe fond, modul în care sunt gestionate temele sensibile legate de subvenții și controlul fondurilor europene din agricultură. [...]
PNL anunță că va „trage la răspundere” PSD pentru respectarea programului de guvernare al Cabinetului Niculescu , după ce europarlamentarul liberal Siegfried Mureșan susține că social-democrații vor încălca angajamentele asumate, potrivit Wall-Street . Miza, dincolo de disputa politică, este una de funcționare a guvernării: dacă partenerul majoritar își schimbă rapid pozițiile sau nu aplică măsurile promise, crește riscul de instabilitate în implementarea politicilor publice și de blocaje în Parlament, într-un moment în care executivul își caută susținerea. Ce acuză Mureșan: „PSD a mai încălcat programul de guvernare” Mureșan afirmă că PSD ar fi încălcat anterior programul de guvernare asumat alături de premierul Ilie Bolojan și spune că se așteaptă la un scenariu similar și în cazul programului agreat cu premierul Luca Niculescu. Într-o postare pe Facebook, citată de Agerpres, europarlamentarul PNL susține că PSD ar fi preluat în actualul program măsuri din programul PNL „de acum trei săptămâni”, pe care social-democrații le-ar fi respins la acel moment, pentru ca ulterior să le adopte și să promită implementarea lor. De ce spune PNL că poate cere „răspundere” PSD În aceeași intervenție, Mureșan argumentează că PSD ar fi fost interesat în principal să rămână la putere și, „de preferat”, fără să își asume guvernarea. El adaugă însă că, în actuala configurație parlamentară, „nu există o majoritate” pentru un guvern fără PSD, motiv pentru care social-democrații ar fi fost nevoiți să își asume „pe față” guvernarea. „Din fericire, pesediștii au fost nevoiți să-și asume pe față guvernarea, deci îi vom trage la răspundere pentru ceea ce vor face în următoarea perioadă.” În acest cadru, mesajul PNL este că va urmări și va sancționa public eventualele derapaje de la programul de guvernare, pe fondul unei majorități în care PSD rămâne indispensabil pentru susținerea executivului. [...]
Directorul general al Nvidia cere cooperare SUA–China pe siguranța inteligenței artificiale , avertizând că tehnologia poate deveni periculoasă fără reguli și coordonare între marile puteri, potrivit Android Headlines . Mesajul lui Jensen Huang plasează discuția despre „siguranța AI” (set de măsuri și reguli pentru a preveni utilizări nocive sau scăpate de sub control) în zona de reglementare și geopolitică, într-un moment în care SUA și China sunt și competitori direcți în cursa pentru infrastructura de calcul necesară modelelor avansate. Din informațiile disponibile în materialul sursă, Huang susține că riscurile asociate AI nu pot fi gestionate eficient doar prin inițiative naționale izolate și că este nevoie de un cadru de cooperare între Washington și Beijing. Articolul nu oferă, în fragmentul furnizat, detalii despre un mecanism concret propus (de exemplu, standarde comune, organisme de supraveghere sau termene), astfel că rămâne neclar ce formă ar urma să ia această colaborare. De ce contează: presiune pentru reguli comune într-o piață fragmentată Apelul șefului Nvidia este relevant pentru companii și investitori deoarece o eventuală convergență a regulilor de siguranță ar putea reduce fragmentarea pieței și incertitudinea de conformare (costuri și obligații diferite pe regiuni). În sens invers, lipsa cooperării poate duce la standarde incompatibile și la restricții suplimentare, cu efecte directe asupra lanțurilor de aprovizionare și a accesului la tehnologie. Ce urmează În lipsa unor detalii suplimentare în material despre pași instituționali sau reacții oficiale, rămâne de urmărit dacă mesajul va fi preluat în discuții de politică publică și dacă va alimenta inițiative bilaterale sau multilaterale privind standarde de siguranță pentru AI. [...]
