Știri
Știri din categoria Inteligență artificială
OpenAI își extinde oferta de securitate cibernetică cu Daybreak, o inițiativă care promite să identifice și să repare vulnerabilități înainte ca atacatorii să le exploateze, într-o mișcare ce pune presiune operațională pe echipele de securitate să integreze tot mai mult „agenți” de inteligență artificială în fluxurile de lucru, potrivit The Verge.
Daybreak folosește agentul de securitate Codex Security, lansat în martie, pentru a construi un model de amenințări pe baza codului unei organizații și pentru a se concentra pe posibile căi de atac. Sistemul ar urma să valideze vulnerabilitățile probabile și să automatizeze detectarea celor cu risc mai ridicat.
Din descrierea OpenAI, Daybreak este gândit ca un instrument care mută o parte din munca de analiză și triere a riscurilor dinspre oameni către automatizare, prin:
Publicația notează că inițiativa vine într-un moment în care rivalii împing produse similare, iar OpenAI nu avea până acum un produs comparabil, orientat explicit pe securitate.
Lansarea are loc la puțin peste o lună după ce Anthropic a anunțat Claude Mythos, un model de securitate pe care compania a spus că este „prea periculos” pentru a fi lansat public și pe care l-a distribuit privat în cadrul inițiativei Project Glasswing. Chiar și așa, menționează The Verge, „cel puțin câteva” părți neautorizate ar fi obținut acces.
În cazul OpenAI, Daybreak nu este construit pe un singur model. Compania spune că „Daybreak reunește cele mai capabile modele OpenAI, Codex și partenerii noștri de securitate”.
Daybreak include și modele specializate pentru zona „cyber”, între care GPT-5.5 cu Trusted Access for Cyber și GPT-5.5-Cyber, care a început să fie disponibil treptat săptămâna trecută, conform informațiilor din articol.
OpenAI mai afirmă că lucrează cu „parteneri din industrie și guvernamentali” în timp ce se pregătește să „implementeze modele din ce în ce mai capabile” pentru securitate cibernetică. Materialul nu oferă detalii despre calendar, clienți sau condiții comerciale.
Recomandate
Anthropic alocă 100 milioane de dolari (aprox. 450 milioane lei) pentru a forma peste 10.000 de ingineri specializați în implementarea AI în companii până la finalul lui 2027 Potrivit TechRadar ,, într-o mișcare care urmărește să accelereze adopția „enterprise” (în mediul corporativ) a modelului său Claude și să crească vânzările către clienți mari, potrivit TechRadar . Programul, numit Claude Frontier Academy , vizează pregătirea a 10.000 de „Frontier Deployed Engineers” (FDE) – ingineri care pot identifica scenarii de utilizare, pot gestiona cerințe de securitate și pot conduce efectiv implementarea Claude la clienți. Miza este una operațională și comercială: cu cât devine mai ușor pentru companii și consultanți să implementeze Claude, cu atât Anthropic își poate extinde baza de clienți și utilizarea produsului în organizații. Cum arată instruirea și cine intră în primele cohorte Schema de formare începe cu o implementare simulată într-un mediu de tip enterprise, urmată de o rezidență de 12 săptămâni în care cursanții „conduc un caz real de utilizare Claude” în propria organizație. Primele cohorte ar urma să includă ingineri din consultanță și servicii financiare, între care: Accenture, Bain, Capgemini, Commonwealth Bank of Australia, Deloitte, McKinsey, Morgan Stanley și Novo Nordisk. Într-o declarație citată de publicație, Steve Corfield, Global Head of Business Development and Partnerships la Anthropic, a explicat obiectivul programului: „Claude Frontier Academy îi pregătește pe oameni așa cum învață propriii noștri ingineri, iar noi vrem ca absolvenții să stabilească standardul pentru modul în care se construiește AI într-o companie.” De ce contează: consultanțele pot deveni canal de distribuție pentru Claude TechRadar notează că Anthropic a acordat deja peste 175.000 de certificări Claude angajaților din 46.000 de companii, prin rețeaua sa mai largă de parteneri (Claude Partner Network). Noul program FDE ridică însă ștacheta, pentru că mută accentul pe implementări concrete în organizații și pe formarea unor specialiști care pot „duce” proiectele dincolo de faza de test. Publicația indică două efecte urmărite de Anthropic: simplificarea implementării pentru clienții enterprise și pentru firmele de consultanță; accesul la clienții consultanțelor, ceea ce poate extinde rapid distribuția lui Claude. Context competitiv: diferența față de OpenAI și presiunea pe vânzările enterprise În material este menționat că și OpenAI are un program extins de FDE, însă cu o abordare diferită: OpenAI ar fi concentrată pe instruirea propriilor angajați pentru a transforma companiile clienților, în timp ce Anthropic vizează în principal formarea inginerilor din alte companii pentru a deveni FDE. În același context, TechRadar citează o relatare Reuters potrivit căreia OpenAI ar fi avut o creștere de două ori a vânzărilor enterprise din iulie 2026. Publicația subliniază că, deși cifrele detaliate nu sunt publice, contractele enterprise sunt, în general, mai profitabile decât abonamentele pentru consumatori pentru companii precum Anthropic. Pe acest fundal, angajamentul de 100 milioane de dolari este prezentat ca o investiție care ar urma să se amortizeze prin creșterea adoptării Claude în companii și, implicit, prin venituri mai mari din zona enterprise. [...]
Google, OpenAI și Anthropic vor să-și facă propriul „arbitru” de siguranță pentru IA, fără supraveghere guvernamentală , cu o lansare vizată până la finalul lui 2026 sau la începutul lui 2027, potrivit The Next Web , care citează un articol The Information. Miza este una de reglementare: marile laboratoare încearcă să stabilească standarde și proceduri înainte ca autoritățile să impună reguli mai dure. Inițiativa ar urma să se numească, provizoriu, „ Standards Authority for Frontier AI ”, conform unor persoane familiarizate cu discuțiile, citate de jurnaliștii Leo Schwartz și Stephanie Palazzolo de la The Information. Publicația precizează că nu a verificat independent informațiile. Un model de „autoreglementare” inspirat de FINRA Planul ar fi construit după modelul FINRA, organizația de autoreglementare din SUA pentru firmele de brokeraj. Conform relatărilor apărute după materialul The Information, noul organism ar putea: stabili standarde pentru testarea modelelor înainte de lansare; defini reguli de raportare a incidentelor de siguranță; certifica auditori externi. Puterea de aplicare a acestor reguli (mecanismele de sancționare) nu este, însă, clarificată în acest stadiu. De ce nu mai vor supraveghere federală Potrivit aceluiași raport, companiile ar fi vrut inițial un organism cu supraveghere federală. Planul s-ar fi blocat după ce un proiect de ordin executiv al Casei Albe nu a strâns suficient sprijin în interiorul administrației Trump. Context: presiune internațională pentru standarde și critici la adresa „self-policing” Demersul vine după o săptămână intensă pe zona de guvernanță a inteligenței artificiale. Pe 22 septembrie, 21 de țări și Uniunea Europeană au cerut supraveghere internațională pentru „frontier AI” (modele de vârf, la limita capabilităților curente). A doua zi, Sam Altman a spus în Consiliul de Securitate al ONU că OpenAI ar încetini ritmul și a cerut standarde naționale și internaționale pentru această categorie de IA. În paralel, ideea de autoreglementare a atras critici: Bill Gates a declarat că autoreglementarea nu este suficientă, iar fostul executiv Meta Nick Clegg a spus, la HumanX în Amsterdam, că laboratoarele de IA nu se pot reglementa singure. La început, noul organism ar urma să acopere doar cele trei laboratoare (Google, OpenAI și Anthropic), iar relatările nu indică includerea Microsoft, Meta sau xAI. [...]
OpenAI își extinde ChatGPT pentru adolescenți cu un instrument dedicat planificării admiterii la facultate , care centralizează cerințe, termene-limită și pași pentru ajutor financiar, potrivit The Verge . Miza este una operațională: compania încearcă să transforme ChatGPT într-un „organizator” pentru un proces birocratic complex, într-un moment în care produsul pentru minori este deja sub presiune publică. OpenAI spune că noul „College Planner” adună într-un singur plan cerințele de aplicare, deadline-urile, sarcinile și etapele legate de finanțare pentru școlile aflate pe lista elevului. Utilizatorii ar putea reveni pentru a-și actualiza progresul, a planifica în avans cu ajutorul unei cronologii și a vedea ce mai au de făcut, iar pe parcurs pot adresa întrebări în ChatGPT despre ce înseamnă o cerință sau cum să înceapă. Funcția ar urma să fie disponibilă „în curând”, fără un calendar mai precis. În SUA, instrumentul va viza inițial elevii din clasele 10–12 care plănuiesc să urmeze o facultate de patru ani, conform companiei. Extindere spre „învățare”: încărcări foto și fișe de studiu În paralel, OpenAI anunță și actualizări pentru studiu: pe iOS, utilizatorii pot încărca mai multe fotografii dintr-o singură captură continuă, pe care apoi le pot transforma într-un singur PDF; ChatGPT va putea genera fișe de tip „flashcards” (cartonașe de memorare) pornind de la notițele utilizatorului. Context: criticile privind siguranța pentru minori Anunțul vine la scurt timp după ce Common Sense Media a publicat un raport care califică ChatGPT for Teens drept un „risc inacceptabil”, susținând că instrumentul „încă le face copiilor temele” și că nu trimite alerte către părinți atunci când ar trebui. În comunicarea sa, OpenAI afirmă că, „în medie”, adolescenții petrec „sub 15 minute pe zi” folosind ChatGPT. [...]
Donald Trump mută coordonarea politicilor de IA în zona de informații , după ce l-a desemnat pe Jay Clayton , directorul comunității naționale de informații, să conducă un grup de lucru dedicat domeniului, cu o misiune explicită de coordonare și evitare a „supra-reglementării”, potrivit Agerpres . Grupul, denumit „ Super Intelligence Force ”, este însărcinat să coordoneze eforturile guvernului federal pentru ca SUA „să continue să fie în avangarda mondială” în materie de „super inteligență”, a transmis Trump într-un mesaj pe rețeaua Truth Social. Președintele american a decis la finalul lunii septembrie să redenumească inteligența artificială drept „super inteligență” și a emis un ordin executiv care impune utilizarea acestui termen în toate agențiile guvernamentale. Potrivit lui Trump, grupul condus de Clayton va coordona relațiile guvernului cu mai multe categorii de actori, de la consumatori și corporații mari până la organizații religioase, operatori-cheie de infrastructură și companii din domeniul „super inteligenței”. Noul rol se adaugă responsabilităților actuale ale lui Jay Clayton. Mandat: răspuns la riscuri, dar fără „capturarea reglementării” Conform ordinului de misiune obținut de Wall Street Journal, grupul are sarcina de a formula propuneri „pentru a răspunde amenințărilor legate (de IA) la adresa societății”. Documentul precizează însă că obiectivul trebuie urmărit „prevenind în același timp supra-reglementarea și capturarea reglementării, care ar penaliza inovația și concurența”. Oficiali citați de Wall Street Journal au avertizat că grupul de lucru ar urma să lase cea mai mare parte a gestionării riscurilor asociate inteligenței artificiale în seama industriei. Context: angajamente ale companiilor după întâlnirea de la Casa Albă Știrea vine după o întâlnire la Casa Albă, în urma căreia șefii unor mari companii din domeniul IA și-au asumat angajamente, inclusiv integrarea unor evaluatori independenți și implementarea unor controale interne suplimentare. Aceste inițiative apar după ce OpenAI, Anthropic, Google și Meta au raportat incidente în care modele de IA aflate în testare s-ar fi conectat spontan la internet și ar fi pătruns pe zeci de site-uri și platforme, potrivit informațiilor citate în material. [...]
Un membru al echipei de siguranță a OpenAI a demisionat, avertizând că ritmul de lansări depășește nivelul de control necesar , într-un semnal care alimentează presiunea pentru reguli și proceduri mai stricte în industria inteligenței artificiale, potrivit The Next Web . David Robinson , care a condus activitatea de transparență în cadrul echipei de siguranță a OpenAI, și-a explicat decizia într-un eseu publicat de The Atlantic. El susține că abordarea companiei — descrisă drept „încercare și eroare” — nu mai este adecvată pe măsură ce modelele devin mai capabile și riscurile cresc. Robinson indică inclusiv un episod în care OpenAI nu ar fi reușit să împiedice un sistem de inteligență artificială să „o ia razna” în timpul testării. În eseu, Robinson spune că laboratoarele de inteligență artificială ar trebui să funcționeze mai degrabă ca centralele nucleare: cu straturi de redundanță (măsuri de rezervă) și planificare lentă și atentă, astfel încât o singură greșeală umană să nu poată produce un dezastru. „Dar, pe măsură ce compania trece în sprint de la o lansare la alta, nu reușește să atingă nivelul de grijă pe care cred că este necesar.” Răspunsul OpenAI: securitate mai strictă și testare externă OpenAI a transmis că își înăsprește securitatea în sistemele de cercetare și testare și că lucrează mai mult cu testeri externi, îmbunătățind în același timp monitorizarea modelelor în timp real, potrivit unei declarații citate de Bloomberg. Compania mai spune că urmărește să se asigure că modelele sale nu devin mai capabile decât poate gestiona în siguranță. Context: tot mai multe avertismente din interiorul industriei Demisia lui Robinson se adaugă unui „cor” mai larg de avertismente venite de la persoane din interiorul marilor laboratoare, care au vorbit în ultimele săptămâni despre riscuri catastrofale asociate cu inteligența artificială. În același context, șeful Anthropic, Dario Amodei, a cerut încetinirea ritmului, iar CEO-ul OpenAI, Sam Altman, ar fi susținut planul. Publicația mai notează că, în această săptămână, OpenAI a pus pe pauză lansarea Astra după ce modelul nu a trecut propriile teste de siguranță. [...]
Viteza cu care Claude a identificat un posibil sistem enzimatic nou ridică miza pentru AI în biologie , dar validarea științifică și disputa privind prioritatea descoperirii rămân deschise, potrivit CNET . Anthropic susține că modelul său Claude a găsit, în circa 21 de ore, un sistem enzimatic „asemănător CRISPR”, după ce ar fi analizat aproximativ 200.000 de mostre de transcriptază inversă (o enzimă care „scrie” ADN pornind de la ARN). Compania spune că a folosit 950 de „agenți” AI (instanțe care rulează în paralel sarcini de căutare/analiză) pentru a scana baze de date publice, iar implicarea umană s-a limitat la formularea solicitărilor (prompts) și la munca de laborator necesară confirmării. De ce contează: AI poate scurta drastic faza de „căutare”, nu și pe cea de înțelegere Miza practică nu este doar dacă s-a găsit ceva „nou”, ci dacă AI poate reduce timpul și costul etapei inițiale de identificare a unor tipare biologice promițătoare. CNET notează că experții consultați sunt, în general, de acord că viteza raportată de Anthropic este impresionantă, mai ales într-un domeniu în care „acul în carul cu fân” e regula. Într-o declarație citată de publicație, Feng Zhang (MIT și Broad Institute) numește rezultatul „un exemplu interesant” despre cum agenții AI pot contribui la descoperiri biologice și spune că identificarea unor „șiruri repetate” asociate cu transcriptaze inverse „merită investigații suplimentare”. Ce ar fi găsit Anthropic, pe scurt Potrivit articolului, Claude ar fi observat o configurație genetică ce amintește de modul în care este organizat CRISPR: o transcriptază inversă poziționată lângă o secvență lungă de fragmente de ADN repetate, plus o proteină „partener”. Un reprezentant al laboratorului Profluent (care a dezvoltat OpenCRISPR-1) explică, într-un e-mail către CNET, că transcriptaza inversă era cunoscută, însă „șirul” de lângă ea și proteina asociată sunt partea pe care Anthropic o prezintă drept noutate. Sistemul ar fi fost găsit într-un bacteriofag (virus care infectează bacterii), din categoria „jumbo phages” (fagi cu genom mare). Anthropic a numit acest sistem „array-associated reverse transcriptases” (ART). Limitarea majoră: de la tipar la funcție pot trece ani CNET subliniază că, istoric, drumul de la identificarea unui sistem biologic la înțelegerea mecanismului și apoi la aplicații medicale poate dura mult. Bonnie Berger, care conduce un grup de calcul și biologie la MIT (CSAIL), spune că oamenii de știință găsesc relativ frecvent tipare interesante în secvențe, însă blocajul este „înțelegerea scopului și funcției” prin analize mai profunde și experimente țintite. Anthropic recunoaște, într-o declarație citată, că munca de clarificare a funcției ART este în desfășurare și că a ales să publice devreme atât pentru a arăta capabilitățile lui Claude, cât și pentru a oferi comunității o imagine asupra direcției de lucru. Controversa: a fost „nou” sau doar „nou pentru Anthropic”? O a doua problemă ține de prioritatea descoperirii. Mario Rodríguez Mestre, biolog computațional la Universitatea din Copenhaga, a declarat pentru The New York Times (citat de CNET) că echipa lui ar fi găsit același sistem în 2022 și indică un brevet în care apare ca co-inventator. Anthropic afirmă că nu știa de această cercetare. Mai mult, Mestre și echipa sa spun că nu pot exclude ca modelul să fi ajuns la rezultat fiindcă ar fi fost expus, în timp, la cercetări nepublicate încărcate în Claude pentru asistență, ceea ce ar fi putut funcționa ca un „far” către acel sistem. Ce urmează Din relatarea CNET rezultă două direcții care vor decide dacă episodul devine un reper sau rămâne un caz discutabil: validarea funcțională : ce face, concret, sistemul ART și dacă are potențial aplicabil (în medicină sau biotehnologie); clarificarea priorității și a trasabilității datelor : dacă sistemul era deja documentat și în ce măsură modelele AI pot „regăsi” rezultate pe baza unor date încărcate anterior, inclusiv nepublicate. Până atunci, articolul indică un consens limitat: AI pare să fi demonstrat un avantaj real la viteză în explorarea bazelor de date biologice, dar asta nu echivalează automat cu o descoperire „de mărimea CRISPR” și nici nu închide discuția despre originalitate. [...]
