Știri
Știri din categoria Securitate cibernetică
„Vibe coding” împinge în sus riscul de breșe și scurgeri de date în aplicațiile construite cu ajutorul inteligenței artificiale, pe fondul unei adoptări rapide a acestui mod de lucru, potrivit Android Headlines, care citează concluziile unui studiu.
„Vibe coding” descrie, în esență, dezvoltarea de software în care utilizatorul se bazează puternic pe modele de inteligență artificială pentru a genera cod, pe baza unor instrucțiuni în limbaj natural, fără a mai trece prin același nivel de proiectare și verificare tehnică specific programării clasice. Miza pentru companii este operațională: viteza de livrare crește, dar crește și probabilitatea ca în produs să ajungă vulnerabilități.
Din perspectivă de securitate cibernetică, riscul major semnalat este că aplicațiile și componentele generate „pe repede înainte” pot include erori de implementare sau configurații greșite care rămân nedetectate până când sunt exploatate. În practică, asta poate însemna:
Materialul indică faptul că fenomenul este alimentat de popularitatea în creștere a „vibe coding”, iar studiul citat leagă această tendință de o creștere a vulnerabilităților de securitate.
În termeni operaționali, concluzia implicită este că organizațiile care folosesc astfel de instrumente vor avea nevoie de controale mai stricte înainte de lansare (testare, revizuire de cod, politici de utilizare a AI în dezvoltare). Android Headlines nu oferă, în fragmentul disponibil, detalii despre metodologia studiului sau despre indicatori cantitativi, astfel că amploarea exactă a creșterii nu poate fi evaluată din informațiile furnizate.
Recomandate
Meta a pus pe pauză un program intern de monitorizare a activității angajaților, după ce un angajat a semnalat riscuri de expunere a unor date sensibile necriptate , potrivit TechRadar . Investigația vizează inițiativa „ Model Capability Initiative” (MCI) , care ar fi urmărit mișcările mouse-ului și activitatea digitală pentru a antrena modele de inteligență artificială. Ce făcea programul și de ce contează operațional MCI ar fi fost lansat în aprilie, cu scopul de a îmbunătăți modelele de AI ale companiei în sarcini unde acestea „se împiedică” de interacțiuni tipic umane cu computerul — de exemplu, selectarea dintr-un meniu derulant sau folosirea diferitelor scurtături de tastatură. Într-un memo intern citat în material, Meta ar fi prezentat inițiativa ca pe o modalitate prin care „toți angajații” pot contribui la îmbunătățirea modelelor „prin munca lor de zi cu zi”. Din perspectivă operațională, cazul ridică două probleme: amploarea colectării (monitorizare detaliată a activității) și controlul asupra datelor rezultate, mai ales când acestea ar fi fost stocate necriptat. Semnalarea de securitate: ce date ar fi fost expuse Conform Reuters (citată de TechRadar), un angajat a depus un raport de incident de securitate cu prioritate ridicată (SEV), susținând că programul ar fi expus date ale angajaților, inclusiv: „prompts” și transcrieri complete (în context, comenzi/cereri introduse în sisteme AI și rezultatele lor); conversații private; date despre persoane și performanță; evaluări de sensibilitate DSS (1–4). Aceeași sursă afirmă că programul ar fi colectat „mai multe informații decât fusese descris inițial” și le-ar fi stocat în formă necriptată. Angajatul ar fi susținut, de asemenea, că a putut accesa de pe computerul de serviciu informații personale, inclusiv fiscale și medicale. Poziția Meta și stadiul opririi Meta a confirmat că a pus programul pe pauză pentru a investiga acuzațiile, dar a spus că nu are, deocamdată, indicii că datele ar fi fost accesate necorespunzător de angajați. Declarația atribuită purtătoarei de cuvânt Tracy Clayton, citată în articol, este: „Am proiectat cu atenție acest program cu măsuri de protecție a confidențialității și, deși nu avem nicio indicație în acest moment că vreo dată a fost accesată necorespunzător de angajații Meta, îl punem pe pauză în timp ce investigăm.” Compania nu a precizat cât va dura pauza și a indicat că oprirea completă „pentru toată lumea” necesită timp, astfel că unii angajați ar putea vedea în continuare programul activ. Reuters a relatat că, în după-amiaza zilei de luni, programul încă rula pentru unele persoane. Ce urmează În lipsa unui termen comunicat pentru finalizarea investigației, miza imediată este dacă Meta va confirma amploarea colectării și modul de stocare a datelor, respectiv dacă va modifica sau va abandona MCI. Pentru companii, cazul este un semnal de risc privind instrumentele interne de „telemetrie” (colectare automată de date despre utilizare) folosite atât pentru productivitate, cât și pentru antrenarea AI: dacă nu sunt limitate strict și securizate, pot ajunge să includă și să expună date personale sau confidențiale care nu au legătură cu scopul declarat. [...]
Agențiile de securitate cibernetică din alianța Five Eyes avertizează că atacurile amplificate de AI pot produce „catastrofe” în luni, nu în ani , iar mesajul lor către companii este că riscul nu mai poate fi tratat ca o problemă strict tehnică, ci ca una de continuitate operațională și pierderi financiare, potrivit Gizmodo . Într-o declarație comună rară, șefii agențiilor de securitate cibernetică din SUA, Australia, Marea Britanie, Canada și Noua Zeelandă spun că modelele avansate de inteligență artificială accelerează „viteza, scara și sofisticarea” amenințărilor. Mecanismul invocat este dublu: scad barierele de intrare pentru atacatori și se micșorează intervalul dintre descoperirea unei vulnerabilități software și exploatarea ei. „Calendarul nu este de ani, este de luni.” De ce contează pentru companii: risc de întreruperi și costuri mai mari Scrisoarea Five Eyes pune accent pe consecințe de business: breșele „se vor întâmpla”, iar diferența o face nivelul de pregătire, care poate limita escaladarea în „crize operaționale și financiare majore”. Mesajul este explicit: managementul de vârf trebuie să trateze securitatea ca responsabilitate de conducere, nu ca subiect delegat exclusiv echipelor IT. Măsuri recomandate: acces mai strict, patch-uri mai rapide, planuri testate Agențiile cer liderilor organizațiilor să reducă suprafața de atac și să scurteze timpii de reacție. Recomandările includ: limitarea accesului inutil la sisteme și a conectivității externe; evitarea întârzierilor la instalarea actualizărilor de securitate, prin prioritizarea patch-urilor; testarea planurilor de răspuns la incidente; întărirea autentificării identității; limitarea accesului utilizatorilor la sistemele critice. În același timp, grupul recomandă integrarea AI în operațiunile de securitate, argumentând că instrumentele bazate pe AI pot ajuta la detectarea mai timpurie a vulnerabilităților, monitorizarea comportamentelor neobișnuite și răspuns mai rapid la incidente, reducând „costul și impactul” acestora. Context: modele AI care ar crește capacitatea de exploatare a vulnerabilităților Avertismentul vine pe fondul apariției unor modele AI despre care se susține că pot accelera identificarea și exploatarea vulnerabilităților. Gizmodo menționează cazul Anthropic și modelul „Mythos”, descris ca fiind suficient de puternic încât accesul ar fi fost limitat inițial la anumite organizații și guverne, urmat de un model cu premise similare prezentat de OpenAI. Publicația notează și relatări potrivit cărora „Mythos” ar fi reușit să ocolească sistemul de operare al Apple și să preia controlul asupra unui sistem corporativ în „șase din zece” încercări, conform unor rapoarte ale organizațiilor care ar fi avut acces. Aceste informații nu sunt detaliate în scrisoarea Five Eyes și depind de raportările citate de Gizmodo. Presiune pe capacitatea statului: cazul CISA în SUA În SUA, discuția este complicată de situația agenției CISA (Cybersecurity and Infrastructure Security Agency). Gizmodo scrie că, după instalarea administrației Trump în ianuarie 2025, CISA ar fi pierdut o treime din personal prin concedieri și ar exista propuneri de tăieri bugetare de peste 250 milioane de dolari (aprox. 1,15 miliarde lei). Publicația mai amintește un incident în care jurnalistul de investigație Brian Krebs ar fi descoperit pe GitHub nume de utilizator și parole în clar pentru sisteme interne, posibil timp de circa șase luni. În acest context, avertismentul Five Eyes ridică o problemă practică pentru mediul privat: fereastra de timp pentru prevenție se comprimă, iar costul întârzierii (în patch-uri, controlul accesului și exerciții de răspuns) crește tocmai când capacitatea instituțională de a sprijini apărarea poate fi sub presiune. [...]
Ordinul SUA de a bloca accesul la Mythos nu s-a aplicat uniform , iar o parte dintre organizațiile selectate de Anthropic pentru testarea modelului au rămas conectate la o versiune „preview”, deși alte variante au fost oprite în baza unei directive de export, potrivit The Next Web . Miza este una de reglementare și guvernanță: decizia guvernului american a vizat suspendarea accesului pentru „cetățeni străini” invocând motive de securitate națională, însă, în practică, unele entități au păstrat accesul la Mythos Preview , ceea ce ridică întrebări despre cine controlează efectiv utilizarea unui instrument de securitate cu potențial „dublă utilizare” (atât defensiv, cât și ofensiv). Ce este Mythos Preview și de ce contează Anthropic a limitat Mythos Preview la aproximativ 200 de organizații, inclusiv guvernul SUA, prin programul Glasswing, după ce modelul a demonstrat o capacitate neobișnuită: identificarea a mii de vulnerabilități software. O versiune mai puțin puternică a fost disponibilizată mai larg, dar a fost ulterior dezactivată când Departamentul Comerțului a cerut suspendarea accesului pentru toți cetățenii străini. Diferența dintre „preview” și versiunile oprite este esențială: unele organizații au rămas cu acces la varianta avansată, chiar în timp ce restul accesului a fost restricționat. Cine a rămas cu acces și cine a fost scos Două companii au confirmat pentru Bloomberg că încă au acces la Mythos Preview: Dragos (companie de securitate cibernetică industrială, la care Accenture ar urma să achiziționeze o participație majoritară, conform articolului) Cisco Systems În schimb, Agenția Uniunii Europene pentru Securitate Cibernetică (ENISA), invitată anterior să se alăture programului Glasswing înainte de blocajul impus de Washington, a fost informată că nu va mai primi acces. Publicația notează că această decizie inversează o înțelegere discutată într-o întâlnire cu doar câteva zile înainte și sugerează că, „pentru moment”, o agenție europeană nu poate fi compatibilizată cu ordinul de export al SUA. Discreția rămasă la companie, în „spațiul” lăsat de directivă Articolul indică faptul că ordinul de export vizează cetățenii străini, dar nu pare să stabilească explicit, organizație cu organizație, cine dintre membrii existenți ai Glasswing își păstrează accesul la versiunea preview. Consecința practică este că Anthropic ajunge să facă evaluări de la caz la caz privind accesul la unul dintre cele mai capabile modele orientate spre securitate. Publicația subliniază că Anthropic nu a detaliat criteriile după care decide accesul, iar situația rămâne fluidă. Cert este că oprirea nu a fost totală, „supraviețuitorii” sunt concentrați în zona utilizatorilor americani din securitate defensivă, iar prima organizație europeană invitată a ajuns și prima exclusă. [...]
Miniștrii de interne din statele riverane Mării Baltice discută măsuri comune contra dronelor , într-un demers care poate duce la reguli și proceduri coordonate de securitate în regiune, potrivit Agerpres . Întâlnirea a avut loc joi, la Helsinki , iar tema centrală a fost „amenințarea reprezentată de drone” și explorarea adoptării în comun a unor măsuri concrete pentru contracararea acesteia. Din informațiile disponibile în material, nu sunt precizate ce țări au participat, ce tip de măsuri sunt avute în vedere sau un calendar de implementare. Agerpres notează că informația este relatată de agenția EFE. [...]
Modelele de inteligență artificială cu potențial ofensiv în securitate vor deveni rapid „bun comun”, iar reglementarea punctuală riscă să rămână în urmă , pe măsură ce competiția dintre companii și scăderea costurilor împing capabilitățile avansate către o disponibilitate mai largă, potrivit unei analize din Ars Technica . Mesajul central al experților citați este că discuția despre un singur model „periculos” ratează problema: trendul tehnologic face probabil ca astfel de capabilități să apară oricum, inclusiv prin modele mai mici, mai ieftine și, în unele cazuri, cu cod deschis. În acest context, întrebarea de politică publică devine dacă restricțiile țintite reduc efectiv riscul sau doar încetinesc actorii care încearcă să întărească apărarea. De ce „interdicțiile pe model” nu rezolvă problema Tarah Wheeler , chief security officer la firma de consultanță TPO Group, spune că este „miop” să se creadă că doar Anthropic va dezvolta capabilități similare cu Mythos sau că alți competitori nu le au deja și nu le țin „în rezervă”, în funcție de cum arată mediul de reglementare. În același sens, Anthropic a transmis, după lansarea Mythos Preview, că discuția nu ar trebui să fie despre companie sau despre un singur produs, ci despre pregătirea pentru o lume în care aceste capabilități vor fi larg disponibile într-un orizont de „6, 12, 24 de luni”, potrivit unei declarații a lui Logan Graham, liderul echipei de „frontier red team” (testare adversarială a modelelor pentru a identifica abuzuri și vulnerabilități) citată de WIRED. Presiunea competitivă: și alți jucători împing în aceeași direcție Analiza notează că OpenAI a făcut, la mijlocul lunii aprilie, o lansare privată a unui model orientat spre securitate cibernetică și a anunțat o strategie extinsă pe această zonă. (În material este indicat și un articol WIRED despre acest subiect: WIRED .) În paralel, cercetători atrag atenția că și modelele existente pot fi folosite pentru activități avansate de căutare a vulnerabilităților și dezvoltare de exploit-uri, dacă sunt „înhămate” (harness) și rafinate corespunzător. Miza pentru guverne: planuri mai largi, nu reacții la un singur produs Bruce Schneier (Harvard University și University of Toronto) argumentează că nu este vorba despre „un model”, ci despre direcția generală a tehnologiei: modele mai mici și mai ieftine, inclusiv cu cod deschis, pot ajunge să egaleze performanța Mythos/Fable prin tehnici mai sofisticate de interogare (prompting). El estimează că alte modele ar putea egala „creativitatea și tenacitatea” Mythos/Fable în câteva luni, iar cele cu cod deschis ceva mai târziu. Pe fond, experții citați susțin că administrația de la Washington și guvernele ar trebui să se concentreze pe planuri mai ample și mai transparente, dezvoltate democratic, pentru a gestiona avansul capabilităților AI în securitate cibernetică și alte domenii sensibile. Chris Wysopal, cofondator al companiei de securitate în cloud Veracode, formulează dilema de reglementare astfel: „Întrebarea de politică nu este dacă o tehnologie are risc. Întrebarea este dacă o restricție specifică reduce semnificativ acel risc sau dacă, în principal, încetinește oamenii care încearcă să facă sistemele mai sigure.” În același context, un grup mare de lideri din securitate cibernetică a transmis administrației SUA, printr-o scrisoare deschisă , că o directivă a Casei Albe privind controlul exporturilor ar fi greșit orientată (scrisoarea este menționată în material: freefable.org ). Notă: materialul precizează că povestea a apărut inițial la WIRED, inclusiv într-o versiune separată: WIRED . [...]
Autoritățile din regiunea Murmansk au transmis și apoi au retras un avertisment despre „grupuri de sabotaj”, o mișcare care ridică semne de întrebare privind comunicarea oficială în situații de securitate , potrivit Meduza . Mesajul a fost publicat în seara de 26 iunie de către „statul major operativ” al regiunii Murmansk, vizând locuitorii a patru districte de graniță. În postare, oamenii erau îndemnați să își sporească vigilența pe motiv că în Rusia „au fost stabilite cazuri de acțiune ale unor grupuri străine de sabotaj și recunoaștere”. Postarea a apărut pe canalul de Telegram al structurii regionale, iar activista Violetta Grudina a semnalat-o public (link în sursă). La aproximativ o oră și jumătate de la publicare, mesajul a fost șters din canal; o copie a rămas însă arhivată în serviciul Tgstat (link în sursă). Motivul ștergerii nu este cunoscut. Ce conținea avertismentul și ce nu preciza În mesaj, locuitorilor li se cerea să sune la poliție sau la FSB dacă observă în afara localităților persoane suspecte sau obiecte abandonate. În același timp, statul major operativ nu a precizat dacă astfel de „sabotori” ar fi fost identificați chiar în regiunea Murmansk, care se învecinează cu Norvegia și Finlanda. [...]
