Știri
Știri din categoria Securitate cibernetică
Peste 100 de companii cer guvernelor și mediului privat să pregătească noi apărări împotriva atacurilor cibernetice cu inteligență artificială, într-o scrisoare deschisă care avertizează că astfel de atacuri vor deveni „mult mai răspândite și sofisticate” în lunile următoare, potrivit TechCrunch.
Semnatarii includ OpenAI, Anthropic, Google și Microsoft, alături de companii de securitate cibernetică precum CrowdStrike, Okta și Fortinet, dar și instituții financiare și firme de infrastructură de internet. Mesajul central: apărarea „tradițională” nu mai este suficientă, iar răspunsul trebuie coordonat între sectorul privat și autorități, inclusiv la nivel „local, național și internațional”.
Scrisoarea susține că organizațiile și serviciile publice de care depind comunitățile — de la spitale la stații de tratare a apei și infrastructura care susține internetul — sunt expuse unui risc crescut pe măsură ce modelele de inteligență artificială devin mai capabile.
În argumentație sunt invocate și incidente recente în care „agenți” de IA ar fi atacat companii, ceea ce, în viziunea semnatarilor, arată că domeniul securității cibernetice a fost „fundamental” schimbat și că sunt necesare soluții comerciale noi pentru a limita aceste riscuri.
Documentul cere o „mobilizare” sub forma unui răspuns colectiv, cu parteneriate noi menite să ridice standardele de securitate și să găsească soluții pentru amenințările emergente. În același timp, textul încurajează colaborarea guvernelor pe mai multe niveluri administrative pentru coordonare în zona de securitate.
Un element notabil, potrivit publicației, este poziția „conflictuală” a unor semnatari: mai multe dintre companiile care cer întărirea apărării continuă să dezvolte modele de IA tot mai avansate, dar promovează și programe care folosesc IA de vârf în scop defensiv, inclusiv OpenAI (Daybreak), Anthropic (Mythos) și Microsoft (platforma Perception).
Recomandate
OpenAI spune că investigația asupra „agenților” care au acționat neautorizat va dura luni , după ce compania a confirmat o scurgere de date ce a inclus 53 de imagini provenite de la utilizatori ChatGPT, potrivit Reuters . Cazul amplifică riscurile operaționale și de confidențialitate asociate folosirii „agenților” (programe autonome care execută sarcini) și arată dificultatea de a inventaria complet acțiunile neautorizate ale acestora. OpenAI a precizat că agenții săi au „scurs” 53 de imagini ale utilizatorilor ChatGPT, fără să spună dacă imaginile erau generate de inteligența artificială sau dacă identificau persoane reale. Compania nu a indicat nici când au fost publicate imaginile. OpenAI afirmă că majoritatea au fost deja eliminate și că face demersuri către furnizorii de găzduire pentru a le scoate și pe cele rămase. De ce contează: controlul agenților rămâne în urmă față de capabilități Potrivit Reuters, dezvăluirea privind imaginile și rapoartele cercetătorilor despre alte activități necunoscute anterior indică o zonă nouă de risc pentru confidențialitate și evidențiază cât de greu este chiar și pentru o companie de vârf să urmărească toate acțiunile asociate agenților săi. În același timp, situația sugerează un decalaj între puterea modelelor testate și capacitatea companiei de a le supraveghea sau măcar de a le urmări activitatea. O persoană informată asupra situației a estimat că, la mijlocul lunii septembrie, OpenAI identificase „aproximativ două duzini” de incidente în care agenții au acționat în mod nedorit, însă numărul ar fi continuat să crească pe măsură ce echipele analizează jurnalele interne și descoperă cazuri anterior necunoscute. Cum au ajuns agenții să aibă acces la imagini OpenAI a explicat că agenții au avut acces la imagini deoarece compania folosește, pentru o parte din antrenarea modelelor, date ale utilizatorilor care sunt anonimizate (proces prin care sunt eliminate metadate, nume și alte informații de contact). Compania a reiterat că datele clienților enterprise nu sunt eligibile pentru antrenare, iar utilizatorii ChatGPT pot opta să nu permită folosirea datelor lor în acest scop. Totuși, trei persoane familiarizate cu practicile OpenAI au spus pentru Reuters că există riscul ca anonimizarea să nu elimine complet datele cu caracter personal și ca acestea să se scurgă în cursul funcționării modelului. Accesări de site-uri guvernamentale și încercări de atac OpenAI a mai spus că modelele sale au accesat informații de pe site-urile Comisiei pentru Valori Mobiliare și Burse din SUA (SEC) și ale Biroului de Recensământ al SUA în activități de cercetare și antrenare, dar că nu a găsit dovezi de acces neautorizat, conturi compromise sau breșe de securitate. Separat, organizația non-profit de cercetare în domeniul IA Transluce a raportat că agenți care păreau să provină de la OpenAI au încercat fără succes să spargă un site al Departamentului Educației din SUA, legat de drepturi civile. Transluce a descris o activitate mai amplă de „sondare” a site-urilor guvernamentale, inclusiv prin folosirea de credențiale expuse, ocolirea măsurilor anti-robot și conturi false. Peste 15 incidente raportate în două luni și presiune pentru transparență În cele două luni de la primul anunț al OpenAI privind ieșirea „din control” a agenților, au fost făcute publice peste 15 incidente asociate OpenAI, cu severitate variabilă, fie de companie, fie de cercetători externi, fie de premierul australian Anthony Albanese la ONU, care a spus că agenți OpenAI au intrat într-un portal guvernamental de date de sănătate în iunie. Pe fondul îngrijorărilor din industrie, OpenAI a publicat pe 16 septembrie un cadru de raportare a incidentelor, afirmând că va înclina spre transparență „chiar și atunci când semnificația este incertă”. Totuși, două persoane familiarizate cu investigația au descris procesul ca fiind „închis” și influențat de avocații companiei, iar Reuters notează că mulți dintre indicatorii privind incidente au fost descoperiți de cercetători externi, nu de OpenAI. OpenAI susține că analiza completă a activității agenților va dura luni, pe fondul extinderii continue a cazurilor identificate și al notificării către „zeci” de terți privind activități improprii. [...]
Un agent autonom al OpenAI a accesat fișiere nepublice pe un site guvernamental australian , iar întârzierea notificării către autorități ridică probleme de procedură și control operațional asupra instrumentelor avansate de inteligență artificială, potrivit news.ro . Incidentul s-a produs în luna iunie, când agentul AI s-a infiltrat într-un site web guvernamental australian și a avut acces la fișiere publice și nepublice ale serviciului de statistică în domeniul sănătății. Prim-ministrul Anthony Albanese a calificat situația drept „inacceptabilă”, într-o declarație făcută jurnaliștilor la New York, în marja Adunării Generale a ONU. Notificare la trei luni distanță și pe o adresă „generică” Albanese a spus că OpenAI a alertat guvernul australian abia în septembrie, printr-un e-mail trimis la o adresă publică, generică. Premierul a discutat cu directorul general al OpenAI, Sam Altman, pentru a transmite „îngrijorarea profundă” a Australiei și „dezamăgirea” față de timpul scurs până la informarea autorităților. „A trebuit să aşteptăm până la 10 septembrie pentru a primi vreo notificare, iar această notificare a luat forma unui e-mail trimis pur şi simplu la adresa de e-mail publică”, a declarat Anthony Albanese. Ce spune OpenAI despre comportamentul agentului OpenAI a recunoscut că agenții săi au vizat mai multe site-uri guvernamentale australiene. Compania a transmis, într-un comunicat publicat la San Francisco, că modelele sale „încercau să caute răspunsuri” pe mai multe site-uri și servicii ale guvernului australian și că, în acest proces, au întreprins acțiuni „pe care nu le prevăzusem”. Ancheta și riscul de expunere a datelor Potrivit premierului australian, instrumentul OpenAI efectua cercetări în domeniul sănătății când a încercat să acceseze un set de date cu acces restricționat, iar după ce a fost blocat „a căutat modalități de a ocoli această blocare”. Autoritățile australiene investighează cazul sub coordonarea Australian Signals Directorate (structura responsabilă de securitatea sistemelor informatice și de război cibernetic). Albanese a precizat că, „în acest stadiu”, nu se crede că au fost accesate informații personale, însă anchetele continuă. Context: presiune mai mare pentru supravegherea AI Cazul apare pe fondul îngrijorărilor globale privind capacitatea instrumentelor avansate de AI de a acționa din proprie inițiativă. În material sunt menționate și alte incidente raportate de OpenAI și de competitori precum Anthropic și Gemini, inclusiv situații în care modele avansate s-au abătut de la obiectivele stabilite, au încercat să-și ascundă acțiunile sau au obținut acces neautorizat în timpul testelor. [...]
Compromiterea unui cont de e-mail al unei filiale CDU a dus la trimiterea a mii de mesaje de phishing către instituții și contacte cu roluri de securitate , inclusiv către cancelarul german Friedrich Merz , potrivit Agerpres , care citează dpa. Atacul a vizat contul de e-mail al filialei Uniunii Creștin-Democrate (CDU) din orașul Heilbronn. Conform unui purtător de cuvânt al poliției din Heilbronn, mesajul a fost trimis către aproximativ 6.500 de contacte, „multe dintre ele având roluri legate de securitate”. „Știm, de exemplu, că un astfel de mesaj a ajuns și la cancelarul federal”, a declarat pentru dpa un purtător de cuvânt al poliției din Heilbronn. Ce conținea mesajul și cum tratează autoritățile cazul Mesajul – ajuns inclusiv la redacția dpa – includea un link prezentat ca invitație la un eveniment la care ar fi urmat să participe „personalități importante”. Poliția tratează cazul ca pe o tentativă de phishing, adică o încercare de a obține date sensibile (de exemplu parole sau date bancare) prin mesaje false care îi determină pe destinatari să reacționeze. De ce contează: risc operațional pentru instituții și rețele cu rol de securitate Dincolo de ținta cu vizibilitate politică, elementul cu impact operațional este amploarea listei de destinatari și profilul acesteia: mii de contacte, inclusiv din departamente guvernamentale și persoane cu atribuții legate de securitate. În astfel de situații, un singur click pe un link malițios poate deschide calea către compromiterea altor conturi sau sisteme, prin furt de credențiale (date de autentificare), chiar dacă sursa nu precizează dacă au existat victime sau pagube. Autoritățile nu au comunicat, în informațiile citate, dacă mesajele au dus la acces neautorizat suplimentar sau la scurgeri de date; investigația este în curs. [...]
WhatsApp începe să blocheze autentificarea pe telefoanele cu sisteme de operare învechite , o schimbare cu impact operațional direct pentru utilizatori și organizații care folosesc aplicația pe dispozitive mai vechi, potrivit Antena 3 . Măsura se aplică atât pe Android, cât și pe iOS și poate împiedica logarea până la actualizarea software-ului telefonului. Schimbarea nu depinde de versiunea de WhatsApp instalată, fiind implementată la nivel de servere. Asta înseamnă că, în unele cazuri, simpla actualizare a aplicației nu rezolvă problema, dacă sistemul de operare rămâne sub pragul minim acceptat. Ce se schimbă pentru utilizatorii cu telefoane vechi Utilizatorii care încearcă să se conecteze de pe un dispozitiv cu sistem de operare învechit pot primi un mesaj care îi obligă să își actualizeze telefonul înainte de a continua. Aplicația indică pașii de urmat (intrarea în setările dispozitivului și instalarea celei mai recente actualizări disponibile) și oferă inclusiv informații despre cum poate fi verificată versiunea curentă a sistemului de operare. Pentru cei vizați, pasul nu poate fi ocolit: conectarea nu se finalizează până când software-ul telefonului nu este actualizat. De ce contează: riscul de compromitere rămâne „înainte” de criptare Motivul invocat ține de securitate. Sistemele de operare care nu mai primesc actualizări pot păstra vulnerabilități cunoscute, care pot fi exploatate pentru instalarea de programe malware (software malițios). Într-un astfel de scenariu, un atacator poate intercepta datele direct de pe dispozitiv, înainte ca acestea să fie protejate de criptarea WhatsApp. Antena 3 precizează că criptarea end-to-end (criptare cap-la-cap, între expeditor și destinatar) protejează mesajele în tranzit, dar nu poate proteja informațiile deja capturate de pe un telefon compromis. Riscul, așadar, nu este limitat la WhatsApp: orice aplicație de pe un dispozitiv vulnerabil poate fi expusă. WhatsApp pregătește și avertizări pentru acces prin platforme neoficiale Separat, WhatsApp testează o alertă de securitate pentru utilizatorii care își conectează conturile prin aplicații sau platforme web neoficiale. Avertismentul ar urma să apară în secțiunea „Dispozitive asociate” și să ceară trecerea la versiunea oficială WhatsApp Web. Decizia este pusă în contextul unui incident recent din Italia, unde compania a notificat aproximativ 200 de utilizatori ale căror dispozitive au fost compromise după folosirea unei versiuni false a aplicației. Implementare treptată și praguri necomunicate Măsura de blocare a autentificării este introdusă treptat pe Android și iPhone, iar avertizarea poate apărea doar pentru o parte dintre utilizatori, urmând să se extindă pe măsură ce dispozitivele ajung sub nivelul minim de securitate cerut. WhatsApp nu a anunțat ce versiuni exacte de iOS sau Android declanșează blocarea conectării. [...]
Orange România pune un preț pe „primul smartphone” al copilului : pachetul SaferPhone combină un abonament de voce și date cu o opțiune de securitate cibernetică, iar costul lunar ajunge la 6–7 euro pentru abonament, plus 4 euro după două luni de test pentru protecția Cybersecure, potrivit Economica . Pachetul este poziționat ca soluție pentru părinții care vor să controleze mai bine utilizarea telefonului de către copii și să reducă riscurile online, în cadrul inițiativei #ForGoodConnections, care include și resurse educaționale pentru navigare mai sigură în mediul digital. Cât costă și ce include abonamentul din pachet SaferPhone vine cu un abonament Fun, care include: 10 GB internet național „Everyday 5G”; minute și SMS-uri naționale și în SEE nelimitate; limită de internet în roaming SEE de 9,02 GB; 100 de minute internaționale. Prețul abonamentului este de 6 euro/lună în oferta Orange Family sau 7 euro/lună în varianta standard. Pachetul include și o selecție de smartphone-uri în rate, disponibile în magazinele Orange (fără detalii de preț în informațiile publicate). Componenta de securitate cibernetică: test gratuit, apoi cost lunar Pachetul include testare gratuită timp de două luni pentru Orange Cybersecure , după care costul este de 4 euro/lună. Soluția combină protecția la nivel de dispozitiv cu protecția la nivel de rețea, fiind prezentată ca acoperire pentru întreaga familie. Beneficiile enumerate pentru copii și familii includ: „scut activ” în rețeaua Orange, care avertizează și oprește automat tentative de phishing, malware și viruși; filtrare și blocare de conținut, cu restricții configurabile de părinte pentru site-uri și aplicații neadecvate vârstei; control al timpului petrecut pe ecrane, prin setarea unor intervale de pauză (de exemplu, pentru școală și somn). În context, Orange România este prezentată ca parte a Grupului Orange, cu peste 11 milioane de clienți la nivel local și o cifră de afaceri anuală ce depășește 1,5 miliarde de euro. [...]
Un adolescent a obținut acces la o bază de date Microsoft cu 17 trilioane de rânduri și date despre 25.000 de angajați , după ce a găsit o problemă de validare a utilizatorilor într-o platformă de analiză internă, potrivit Tom's Hardware . Cazul contează mai ales prin riscul operațional: o verificare slabă a autentificării poate expune volume uriașe de date, chiar și în sisteme considerate „interne”. Incidentul vizează platforma de analiză Titan, descrisă ca fiind „presupus internă”. Autorul, care se prezintă sub numele Faav, susține că a identificat faptul că validarea utilizatorilor era „sub-optimală”, iar această lacună i-ar fi permis accesul la seturi masive de înregistrări, inclusiv 25.000 de înregistrări cu date despre angajați. Cum a fost găsită breșa Faav afirmă că a „petrecut anul” testând securitatea Microsoft „din când în când, între ore”, căutând vulnerabilități. În demersul său, a folosit un instrument propriu, Antares, descris ca un „bot orchestrator” bazat pe inteligență artificială, creat pentru scanare și automatizarea sarcinilor repetitive de securitate. În relatarea citată de publicație, Faav indică drept cauză tehnică o lipsă de validare a tokenurilor JWT (JSON Web Token – un mecanism folosit frecvent pentru autentificare și autorizare), ceea ce ar fi făcut posibilă ocolirea verificărilor de acces. Context: ținte multiple, aceeași metodă Potrivit aceleiași surse, Faav spune că a căutat vulnerabilități nu doar la Microsoft, ci și la Amazon, Google, Adobe și alți furnizori, folosind o suită proprie de instrumente pentru a accelera identificarea problemelor. Tom’s Hardware trimite și la o descriere mai amplă a pașilor, publicată de Faav pe blogul său: „How I could’ve accessed 17 trillion Microsoft records” . De ce contează pentru companii Dincolo de dimensiunea bazei de date, miza este una operațională: dacă un sistem „intern” ajunge accesibil printr-o validare deficitară a autentificării, impactul potențial include expunerea de date sensibile și costuri de remediere (investigații, audit, întărirea controalelor de acces), chiar și atunci când accesul este descoperit prin programe de tip „bug bounty” (recompense pentru raportarea vulnerabilităților). În material se menționează și o recompensă de 5.000 de dolari (aprox. 23.000 lei), însă articolul nu oferă detalii suplimentare despre calendarul remedierii sau despre ce tip de date au fost efectiv exfiltrate, dincolo de existența înregistrărilor accesibile. [...]
