Știri
Știri din categoria Securitate cibernetică
Meta a pus pe pauză un program intern de monitorizare a activității angajaților, după ce un angajat a semnalat riscuri de expunere a unor date sensibile necriptate, potrivit TechRadar. Investigația vizează inițiativa „Model Capability Initiative” (MCI), care ar fi urmărit mișcările mouse-ului și activitatea digitală pentru a antrena modele de inteligență artificială.
MCI ar fi fost lansat în aprilie, cu scopul de a îmbunătăți modelele de AI ale companiei în sarcini unde acestea „se împiedică” de interacțiuni tipic umane cu computerul — de exemplu, selectarea dintr-un meniu derulant sau folosirea diferitelor scurtături de tastatură. Într-un memo intern citat în material, Meta ar fi prezentat inițiativa ca pe o modalitate prin care „toți angajații” pot contribui la îmbunătățirea modelelor „prin munca lor de zi cu zi”.
Din perspectivă operațională, cazul ridică două probleme: amploarea colectării (monitorizare detaliată a activității) și controlul asupra datelor rezultate, mai ales când acestea ar fi fost stocate necriptat.
Conform Reuters (citată de TechRadar), un angajat a depus un raport de incident de securitate cu prioritate ridicată (SEV), susținând că programul ar fi expus date ale angajaților, inclusiv:
Aceeași sursă afirmă că programul ar fi colectat „mai multe informații decât fusese descris inițial” și le-ar fi stocat în formă necriptată. Angajatul ar fi susținut, de asemenea, că a putut accesa de pe computerul de serviciu informații personale, inclusiv fiscale și medicale.
Meta a confirmat că a pus programul pe pauză pentru a investiga acuzațiile, dar a spus că nu are, deocamdată, indicii că datele ar fi fost accesate necorespunzător de angajați. Declarația atribuită purtătoarei de cuvânt Tracy Clayton, citată în articol, este:
„Am proiectat cu atenție acest program cu măsuri de protecție a confidențialității și, deși nu avem nicio indicație în acest moment că vreo dată a fost accesată necorespunzător de angajații Meta, îl punem pe pauză în timp ce investigăm.”
Compania nu a precizat cât va dura pauza și a indicat că oprirea completă „pentru toată lumea” necesită timp, astfel că unii angajați ar putea vedea în continuare programul activ. Reuters a relatat că, în după-amiaza zilei de luni, programul încă rula pentru unele persoane.
În lipsa unui termen comunicat pentru finalizarea investigației, miza imediată este dacă Meta va confirma amploarea colectării și modul de stocare a datelor, respectiv dacă va modifica sau va abandona MCI. Pentru companii, cazul este un semnal de risc privind instrumentele interne de „telemetrie” (colectare automată de date despre utilizare) folosite atât pentru productivitate, cât și pentru antrenarea AI: dacă nu sunt limitate strict și securizate, pot ajunge să includă și să expună date personale sau confidențiale care nu au legătură cu scopul declarat.
Recomandate
Agențiile de securitate cibernetică din alianța Five Eyes avertizează că atacurile amplificate de AI pot produce „catastrofe” în luni, nu în ani , iar mesajul lor către companii este că riscul nu mai poate fi tratat ca o problemă strict tehnică, ci ca una de continuitate operațională și pierderi financiare, potrivit Gizmodo . Într-o declarație comună rară, șefii agențiilor de securitate cibernetică din SUA, Australia, Marea Britanie, Canada și Noua Zeelandă spun că modelele avansate de inteligență artificială accelerează „viteza, scara și sofisticarea” amenințărilor. Mecanismul invocat este dublu: scad barierele de intrare pentru atacatori și se micșorează intervalul dintre descoperirea unei vulnerabilități software și exploatarea ei. „Calendarul nu este de ani, este de luni.” De ce contează pentru companii: risc de întreruperi și costuri mai mari Scrisoarea Five Eyes pune accent pe consecințe de business: breșele „se vor întâmpla”, iar diferența o face nivelul de pregătire, care poate limita escaladarea în „crize operaționale și financiare majore”. Mesajul este explicit: managementul de vârf trebuie să trateze securitatea ca responsabilitate de conducere, nu ca subiect delegat exclusiv echipelor IT. Măsuri recomandate: acces mai strict, patch-uri mai rapide, planuri testate Agențiile cer liderilor organizațiilor să reducă suprafața de atac și să scurteze timpii de reacție. Recomandările includ: limitarea accesului inutil la sisteme și a conectivității externe; evitarea întârzierilor la instalarea actualizărilor de securitate, prin prioritizarea patch-urilor; testarea planurilor de răspuns la incidente; întărirea autentificării identității; limitarea accesului utilizatorilor la sistemele critice. În același timp, grupul recomandă integrarea AI în operațiunile de securitate, argumentând că instrumentele bazate pe AI pot ajuta la detectarea mai timpurie a vulnerabilităților, monitorizarea comportamentelor neobișnuite și răspuns mai rapid la incidente, reducând „costul și impactul” acestora. Context: modele AI care ar crește capacitatea de exploatare a vulnerabilităților Avertismentul vine pe fondul apariției unor modele AI despre care se susține că pot accelera identificarea și exploatarea vulnerabilităților. Gizmodo menționează cazul Anthropic și modelul „Mythos”, descris ca fiind suficient de puternic încât accesul ar fi fost limitat inițial la anumite organizații și guverne, urmat de un model cu premise similare prezentat de OpenAI. Publicația notează și relatări potrivit cărora „Mythos” ar fi reușit să ocolească sistemul de operare al Apple și să preia controlul asupra unui sistem corporativ în „șase din zece” încercări, conform unor rapoarte ale organizațiilor care ar fi avut acces. Aceste informații nu sunt detaliate în scrisoarea Five Eyes și depind de raportările citate de Gizmodo. Presiune pe capacitatea statului: cazul CISA în SUA În SUA, discuția este complicată de situația agenției CISA (Cybersecurity and Infrastructure Security Agency). Gizmodo scrie că, după instalarea administrației Trump în ianuarie 2025, CISA ar fi pierdut o treime din personal prin concedieri și ar exista propuneri de tăieri bugetare de peste 250 milioane de dolari (aprox. 1,15 miliarde lei). Publicația mai amintește un incident în care jurnalistul de investigație Brian Krebs ar fi descoperit pe GitHub nume de utilizator și parole în clar pentru sisteme interne, posibil timp de circa șase luni. În acest context, avertismentul Five Eyes ridică o problemă practică pentru mediul privat: fereastra de timp pentru prevenție se comprimă, iar costul întârzierii (în patch-uri, controlul accesului și exerciții de răspuns) crește tocmai când capacitatea instituțională de a sprijini apărarea poate fi sub presiune. [...]
Ordinul SUA de a bloca accesul la Mythos nu s-a aplicat uniform , iar o parte dintre organizațiile selectate de Anthropic pentru testarea modelului au rămas conectate la o versiune „preview”, deși alte variante au fost oprite în baza unei directive de export, potrivit The Next Web . Miza este una de reglementare și guvernanță: decizia guvernului american a vizat suspendarea accesului pentru „cetățeni străini” invocând motive de securitate națională, însă, în practică, unele entități au păstrat accesul la Mythos Preview , ceea ce ridică întrebări despre cine controlează efectiv utilizarea unui instrument de securitate cu potențial „dublă utilizare” (atât defensiv, cât și ofensiv). Ce este Mythos Preview și de ce contează Anthropic a limitat Mythos Preview la aproximativ 200 de organizații, inclusiv guvernul SUA, prin programul Glasswing, după ce modelul a demonstrat o capacitate neobișnuită: identificarea a mii de vulnerabilități software. O versiune mai puțin puternică a fost disponibilizată mai larg, dar a fost ulterior dezactivată când Departamentul Comerțului a cerut suspendarea accesului pentru toți cetățenii străini. Diferența dintre „preview” și versiunile oprite este esențială: unele organizații au rămas cu acces la varianta avansată, chiar în timp ce restul accesului a fost restricționat. Cine a rămas cu acces și cine a fost scos Două companii au confirmat pentru Bloomberg că încă au acces la Mythos Preview: Dragos (companie de securitate cibernetică industrială, la care Accenture ar urma să achiziționeze o participație majoritară, conform articolului) Cisco Systems În schimb, Agenția Uniunii Europene pentru Securitate Cibernetică (ENISA), invitată anterior să se alăture programului Glasswing înainte de blocajul impus de Washington, a fost informată că nu va mai primi acces. Publicația notează că această decizie inversează o înțelegere discutată într-o întâlnire cu doar câteva zile înainte și sugerează că, „pentru moment”, o agenție europeană nu poate fi compatibilizată cu ordinul de export al SUA. Discreția rămasă la companie, în „spațiul” lăsat de directivă Articolul indică faptul că ordinul de export vizează cetățenii străini, dar nu pare să stabilească explicit, organizație cu organizație, cine dintre membrii existenți ai Glasswing își păstrează accesul la versiunea preview. Consecința practică este că Anthropic ajunge să facă evaluări de la caz la caz privind accesul la unul dintre cele mai capabile modele orientate spre securitate. Publicația subliniază că Anthropic nu a detaliat criteriile după care decide accesul, iar situația rămâne fluidă. Cert este că oprirea nu a fost totală, „supraviețuitorii” sunt concentrați în zona utilizatorilor americani din securitate defensivă, iar prima organizație europeană invitată a ajuns și prima exclusă. [...]
Miniștrii de interne din statele riverane Mării Baltice discută măsuri comune contra dronelor , într-un demers care poate duce la reguli și proceduri coordonate de securitate în regiune, potrivit Agerpres . Întâlnirea a avut loc joi, la Helsinki , iar tema centrală a fost „amenințarea reprezentată de drone” și explorarea adoptării în comun a unor măsuri concrete pentru contracararea acesteia. Din informațiile disponibile în material, nu sunt precizate ce țări au participat, ce tip de măsuri sunt avute în vedere sau un calendar de implementare. Agerpres notează că informația este relatată de agenția EFE. [...]
Modelele de inteligență artificială cu potențial ofensiv în securitate vor deveni rapid „bun comun”, iar reglementarea punctuală riscă să rămână în urmă , pe măsură ce competiția dintre companii și scăderea costurilor împing capabilitățile avansate către o disponibilitate mai largă, potrivit unei analize din Ars Technica . Mesajul central al experților citați este că discuția despre un singur model „periculos” ratează problema: trendul tehnologic face probabil ca astfel de capabilități să apară oricum, inclusiv prin modele mai mici, mai ieftine și, în unele cazuri, cu cod deschis. În acest context, întrebarea de politică publică devine dacă restricțiile țintite reduc efectiv riscul sau doar încetinesc actorii care încearcă să întărească apărarea. De ce „interdicțiile pe model” nu rezolvă problema Tarah Wheeler , chief security officer la firma de consultanță TPO Group, spune că este „miop” să se creadă că doar Anthropic va dezvolta capabilități similare cu Mythos sau că alți competitori nu le au deja și nu le țin „în rezervă”, în funcție de cum arată mediul de reglementare. În același sens, Anthropic a transmis, după lansarea Mythos Preview, că discuția nu ar trebui să fie despre companie sau despre un singur produs, ci despre pregătirea pentru o lume în care aceste capabilități vor fi larg disponibile într-un orizont de „6, 12, 24 de luni”, potrivit unei declarații a lui Logan Graham, liderul echipei de „frontier red team” (testare adversarială a modelelor pentru a identifica abuzuri și vulnerabilități) citată de WIRED. Presiunea competitivă: și alți jucători împing în aceeași direcție Analiza notează că OpenAI a făcut, la mijlocul lunii aprilie, o lansare privată a unui model orientat spre securitate cibernetică și a anunțat o strategie extinsă pe această zonă. (În material este indicat și un articol WIRED despre acest subiect: WIRED .) În paralel, cercetători atrag atenția că și modelele existente pot fi folosite pentru activități avansate de căutare a vulnerabilităților și dezvoltare de exploit-uri, dacă sunt „înhămate” (harness) și rafinate corespunzător. Miza pentru guverne: planuri mai largi, nu reacții la un singur produs Bruce Schneier (Harvard University și University of Toronto) argumentează că nu este vorba despre „un model”, ci despre direcția generală a tehnologiei: modele mai mici și mai ieftine, inclusiv cu cod deschis, pot ajunge să egaleze performanța Mythos/Fable prin tehnici mai sofisticate de interogare (prompting). El estimează că alte modele ar putea egala „creativitatea și tenacitatea” Mythos/Fable în câteva luni, iar cele cu cod deschis ceva mai târziu. Pe fond, experții citați susțin că administrația de la Washington și guvernele ar trebui să se concentreze pe planuri mai ample și mai transparente, dezvoltate democratic, pentru a gestiona avansul capabilităților AI în securitate cibernetică și alte domenii sensibile. Chris Wysopal, cofondator al companiei de securitate în cloud Veracode, formulează dilema de reglementare astfel: „Întrebarea de politică nu este dacă o tehnologie are risc. Întrebarea este dacă o restricție specifică reduce semnificativ acel risc sau dacă, în principal, încetinește oamenii care încearcă să facă sistemele mai sigure.” În același context, un grup mare de lideri din securitate cibernetică a transmis administrației SUA, printr-o scrisoare deschisă , că o directivă a Casei Albe privind controlul exporturilor ar fi greșit orientată (scrisoarea este menționată în material: freefable.org ). Notă: materialul precizează că povestea a apărut inițial la WIRED, inclusiv într-o versiune separată: WIRED . [...]
Comisia Europeană vrea să întărească rolul Europol în investigațiile digitale printr-un pachet de măsuri care include o infrastructură „cloud” securizată și un spațiu european de date partajate pentru poliție, alături de creșteri de bugete și personal pentru Europol și Eurojust, potrivit Agerpres . Pachetul, prezentat miercuri de Comisia Europeană, pornește de la constatarea că criminalitatea devine „din ce în ce mai sofisticată, internațională și digitală”, iar anchetele eficiente cer cooperare strânsă între poliție, autorități vamale, procurori și instanțe, de la începutul investigației până la hotărârea definitivă. Ce se schimbă operațional: date mai rapide și lucru „în timp real” între state Propunerile acoperă întregul lanț de sprijin al UE pentru statele membre – de la prevenire și detectare până la cooperare judiciară și urmărire penală – și includ două regulamente pentru consolidarea mandatelor Europol și Eurojust, o revizuire a ordinului european de anchetă și modificări ale Regulamentului privind protecția datelor pentru instituțiile și organele UE. În cazul Europol, Comisia propune măsuri care vizează direct modul în care se face schimbul de informații în dosare transfrontaliere, inclusiv online. Printre elementele menționate: schimb de informații mai eficient și mai sigur , inclusiv prin schimb automat și mai rapid, pentru colaborare „în timp real” în investigații; o infrastructură „cloud” securizată, scalabilă și suverană și un spațiu al datelor partajate al poliției , pentru lucru virtual comun la cazuri; birouri de sprijin Europol în statele membre , formate din polițiști care au lucrat anterior în agenție, pentru utilizarea mai bună a instrumentelor (de exemplu, criminalistică și analiză de date); un centru tehnologic și de inovare , care să ofere o imagine la nivelul UE asupra nevoilor de capabilități și să sprijine investiții comune în cercetare și dezvoltare; cooperare mai strânsă cu Eurojust și Parchetul European și consolidarea cooperării internaționale cu țări partenere. Comisia susține că automatizarea proceselor și punerea în comun a resurselor ar urma să simplifice fluxurile de lucru, să reducă sarcina administrativă și să aducă economii administrative și câștiguri de eficiență pentru agenție și statele membre. De ce contează pentru zona de securitate cibernetică În logica pachetului, accentul pe schimb rapid de date, infrastructură „cloud” și un spațiu comun de date pentru poliție urmărește să reducă fragmentarea informațiilor între state, într-un context în care actorii infracționali operează transfrontalier și online și „abuzează din ce în ce mai mult de inteligența artificială”, potrivit Comisiei. Eurojust ar urma, la rândul său, să primească un mandat extins inclusiv pentru domenii emergente precum criminalitatea informatică , alături de încălcarea măsurilor restrictive ale UE sau violența bazată pe gen, conform aceleiași surse. Ce urmează Comisia a prezentat propuneri legislative (regulamente și revizuiri de instrumente), ceea ce înseamnă că pașii următori țin de procesul de adoptare la nivelul UE. Materialul citat nu precizează un calendar sau valori concrete ale majorărilor de buget și personal. [...]
Arestarea a încă doi suspecți ridică la șapte numărul persoanelor acuzate în dosarul complotului privind un atac cu drone explozive vizând evenimentul UFC organizat pe peluza de sud a Casei Albe, potrivit The Jerusalem Post , care citează un comunicat al Departamentului de Justiție al SUA (DOJ). Cei doi, William Lee Spartacus Falkner și Jordan W. Rincker, au fost puși sub acuzare pentru „conspirație la comiterea unei crime”, pentru rolurile pe care procurorii le atribuie în planul dejucat de FBI săptămâna trecută. Odată cu noile arestări, totalul suspecților din dosar ajunge la șapte, conform DOJ. În cazul lui Falkner, DOJ susține că acesta ar fi discutat despre fabricarea și pilotarea dronelor pentru a ataca evenimentul, inclusiv despre încărcarea lor cu explozibili. Publicația redă și o afirmație atribuită lui Falkner, legată de „raza letală” a exploziei. Rincker este acuzat, potrivit DOJ, că ar fi acceptat 1.200 de dolari (aprox. 5.500 lei) de la un alt conspirator arestat, Abraham Hermosillo Alvarez, pentru a distribui banii către persoane implicate în plan. Tot DOJ afirmă că Rincker i-ar fi oferit lui Alvarez o pușcă cu pompă calibrul 12, într-o întâlnire în Omaha, primind la schimb mai multe echipamente și bunuri, inclusiv o imprimantă 3D, filament pentru imprimare 3D și un minicomputer. Componenta operațională: drone, explozibili și echipamente DOJ indică faptul că imprimanta 3D ar fi fost destinată fabricării de drone. În același timp, Rincker ar fi declarat anchetatorilor că nu a încercat niciodată să construiască drone și că nu știe cum se face acest lucru, potrivit relatării. Ce spun autoritățile despre scenariul atacului FBI a dejucat atacul potențial cu drone explozive care ar fi vizat zona Casei Albe în timpul UFC Freedom 250, iar directorul FBI, Kash Patel, a confirmat săptămâna trecută existența complotului, notează publicația. Potrivit unor oficiali citați de FOX News (menționați în articol), planul ar fi urmărit lovirea cu drone explozive a unor clădiri din apropierea evenimentului pentru a împinge spectatorii către o ambuscadă a unor lunetiști, urmată de o încercare de a forța porțile Casei Albe. Țintele invocate ar fi inclus „elite capitaliste”, „miliardari” sau politicieni care au primit donații de la American Israel Public Affairs Committee (AIPAC) , conform aceleiași relatări. [...]
