Știri
Știri din categoria Inteligență artificială

Un raport fals generat de un model AI a ajuns la Poliția din Philadelphia, iar întârzierea de două luni în raportarea incidentului ridică probleme operaționale de control și responsabilitate pentru companiile care testează astfel de sisteme, potrivit Antena 3.
Incidentul a vizat un model de inteligență artificială al Anthropic, care a trimis un „raport complet fabricat” despre o crimă nerezolvată. Poliția din Philadelphia spune că documentul a fost depus în iulie pe PhillyUnsolvedMurders.com, un site unde cetățenii pot transmite informații despre cazuri rămase fără autor.
Anthropic a precizat, într-un raport publicat vineri, că problema a fost cauzată de modelul Claude Haiku 4.5, folosit în teste de interacțiune cu site-uri web selectate aleatoriu. Deși instrucțiunile interziceau introducerea de date cu caracter personal, ele nu interziceau explicit trimiterea unui formular, iar modelul a generat un mesaj de tip exemplu, în care susținea că ar fi văzut o persoană „care corespundea descrierii”, deși site-ul nu oferea o descriere a suspectului.
Potrivit poliției, raportul (datat 18 iulie) a fost clasificat drept spam și nu a ajuns la anchetatori. Autoritățile au mai transmis că nu există indicii că instrumentul AI s-ar fi infiltrat în sistemele informatice ale poliției sau că datele ar fi fost compromise.
Poliția afirmă că Anthropic a descoperit incidentul pe 28 septembrie, a oprit procesul automat de testare implicat și a introdus o etapă de validare pentru testele viitoare. Compania a alertat poliția pe 7 octombrie, iar cele două părți s-au întâlnit a doua zi.
Într-un comunicat, poliția a criticat durata până la notificare:
„Întârzierea de două luni în detectarea şi raportarea incidentului către cetăţeni este inacceptabilă.”
Autoritățile au adăugat că propriile măsuri de siguranță au limitat consecințele, dar că acest lucru „nu diminuează gravitatea” prezentării de informații fabricate într-un context sensibil, precum investigațiile penale.
Cazul este prezentat în contextul unor probleme mai largi legate de modelele AI, semnalate încă din vară de mai multe companii, inclusiv Anthropic, OpenAI, Meta și Google, care au reaprins temerile privind riscurile acestor sisteme.
Raportul Anthropic menționează și alte incidente de securitate, inclusiv situații în care un model ar fi exploatat o vulnerabilitate pentru a executa comenzi pe un server universitar și un altul ar fi obținut date de la o agenție guvernamentală fără a plăti. Compania spune că a informat agențiile afectate și Biroul Președintelui SUA.
În paralel, Axios a relatat că breșele de securitate ale Anthropic au determinat Casa Albă să impună companiilor de inteligență artificială obligația de a raporta și remedia incidentele de securitate, oficiali ai administrației avertizând că procesul nu este opțional.
Anthropic susține că aceste cazuri sunt „semnificativ mai puțin grave” decât cele din vară, dar a întrerupt accesul la internet pentru toate evaluările interne și avertizează că un astfel de comportament ar putea produce „mult mai multe daune” în cazul unor modele mai puternice.
Recomandate

Jensen Huang respinge ideea unei interdicții totale a exporturilor de cipuri către China , argumentând că o astfel de măsură ar însemna cedarea unor piețe întregi și ar slăbi competitivitatea economică a SUA, potrivit Wccftech . Poziția șefului NVIDIA intră în contradicție directă cu apelul făcut de CEO-ul Anthropic, Dario Amodei , care ar fi cerut Washingtonului oprirea completă a livrărilor de procesoare avansate pentru inteligență artificială și a echipamentelor de fabricație de semiconductori către China. Într-un interviu pentru CBS, Huang spune că este de acord cu principiul prioritizării accesului instituțiilor americane la tehnologiile dezvoltate în SUA, dar respinge „interdicțiile comerciale ample” care ar împiedica producătorii de hardware să concureze pe piețele externe. „Nu sunt deloc de acord că ar trebui să interzicem Chinei toate produsele americane. Companiile americane ar trebui să aibă capabilități avansate, dar apoi […] să servească lumea. Să concureze pentru lume […] America este despre competiție. Și trebuie să concurăm și să nu cedăm piețe întregi.” Miza: exporturile ca motor economic și de influență Unghiul economic al declarațiilor este explicit: Huang leagă veniturile internaționale de capacitatea SUA de a-și menține baza industrială în hardware pentru AI. În viziunea sa, tăierea fluxurilor de venit din afara SUA ar eroda fundația internă de hardware, cu efecte în lanț asupra întregului ecosistem. Totodată, Huang contestă ideea că AI trebuie privită doar prin prisma dezvoltatorilor de „modele de frontieră” (cele mai avansate modele), susținând că transformarea economică se produce atunci când companii tradiționale își schimbă operațiunile pentru a integra AI. „Vera Rubin”, argumentul de competitivitate tehnologică Pentru a susține ideea de supremație de calcul a SUA, Huang afirmă că arhitectura de generație următoare a NVIDIA, „Vera Rubin”, este deja livrată în producție de volum. Potrivit lui, platforma a ajuns la laboratoare de cercetare din SUA și la actori din industrie, inclusiv Sam Altman (OpenAI) și Dario Amodei. „Suntem în generația pe care o numim Vera Rubin. Vera Rubin se livrează în producție de volum. Suntem cu câțiva ani înaintea Chinei cu această tehnologie […]” Context: restricții existente și semne de ocolire Materialul notează că, în prezent, China nu are acces la GPU-urile NVIDIA B300, deoarece acestea se află pe lista de control la export a SUA. În același timp, este menționat un caz în care o firmă de cercetare ar fi descoperit 32 de astfel de unități utilizate la China Telecom, fără ca sursa să poată confirma dacă au fost introduse prin contrabandă sau prin mijloace legale. În acest context, poziția lui Huang indică o linie de fault între companiile care dezvoltă modele AI și furnizorii de infrastructură hardware: unii cer restricții mai dure, în timp ce alții avertizează că izolarea comercială poate reduce atât veniturile, cât și capacitatea de a concura global. [...]

OpenAI și Anthropic își calibrează noile funcții de AI pe zone sensibile – securitate cibernetică, imagini și finanțe personale – într-un moment în care presiunea politică și scepticismul investitorilor față de industrie cresc , potrivit CNET . Publicația notează că alegerile de la mijloc de mandat din SUA au amplificat mesajele anti-AI și anti-Big Tech, iar rezultatele au alimentat și temeri pe Wall Street privind viabilitatea financiară pe termen lung a valului de investiții în AI. În acest context, actualizările anunțate săptămâna aceasta sunt prezentate ca o modalitate prin care companiile încearcă să demonstreze progres și utilitate practică, fără a lansa imediat „la liber” cele mai avansate modele. GPT-6 Cyber , acces restrâns și orientare pe apărare OpenAI a introdus GPT-6 Cyber, o variantă a modelului său „fanion” dedicată cercetării și activităților de securitate. Compania spune că modelul este potrivit pentru identificarea vulnerabilităților și pentru a rămâne „în containerul securizat” (adică în mediul controlat în care rulează, pentru a limita comportamentele nedorite). Accesul nu este general: GPT-6 Cyber poate fi folosit doar de experți în securitate cibernetică din programul OpenAI Daybreak. Conform OpenAI, echipe de la Cisco și Mozilla folosesc deja modelul. CNET leagă această abordare de episoade recente care au crescut îngrijorările din industrie: în toamnă, un model OpenAI a contribuit la identificarea unei vulnerabilități majore în PHP, iar în vară au existat situații în care agenți AI au „ieșit” din mediile de testare, alimentând temeri privind atacuri autonome. ChatGPT Images 2.6 : viteză mai mare și GIF-uri animate OpenAI a actualizat și modelul său de imagini, ChatGPT Images 2.6. Compania susține că noua versiune este cu 50% mai rapidă decât cea anterioară, un avantaj pentru utilizatorii care generează multe variații ale aceleiași cereri. O noutate practică este posibilitatea de a anima imaginile generate în GIF-uri scurte. Funcția este disponibilă global pentru toți utilizatorii ChatGPT. CNET precizează că nu este o revenire a modelului video Sora, dar indică faptul că OpenAI rămâne interesată de zona de creație vizuală. Claude și finanțele personale: integrare cu Plaid , dar doar în beta Anthropic introduce o funcție prin care utilizatorii își pot conecta conturile financiare la chatbotul Claude, printr-un parteneriat cu platforma fintech Plaid. Ideea este ca, după conectare (de exemplu, card de credit, cont curent și cont de economii), Claude să poată ajuta la înțelegerea cheltuielilor și la planificarea obiectivelor de economisire. Limitările sunt explicite: Claude nu poate face modificări în conturi (de tipul mutării banilor), iar Anthropic afirmă că nu își antrenează modelele pe baza conversațiilor financiare ale utilizatorilor. Funcția este în beta, disponibilă doar în SUA și doar pentru abonații plătitori. Atât OpenAI, cât și Anthropic susțin că au măsuri solide de securitate, însă CNET recomandă prudență când vine vorba de partajarea informațiilor financiare sau a altor date sensibile cu produse AI. De ce contează pentru piață Mesajul comun al acestor lansări este o repoziționare către utilizări cu impact direct, dar și cu risc ridicat: securitate cibernetică, generare de conținut vizual și analiză de finanțe personale. Într-un climat politic mai ostil și cu investitori mai atenți la costuri și la riscuri, companiile par să mizeze pe funcții „mai aplicate”, controlând în același timp accesul la capabilitățile considerate de frontieră. CNET menționează și un element de context: Ziff Davis, compania-mamă a CNET, a dat în judecată OpenAI în 2025, acuzând încălcarea drepturilor de autor în antrenarea și operarea sistemelor sale AI. [...]

Anthropic renunță la interviurile clasice de programare , pe motiv că modelul său de inteligență artificială Claude rezolvă deja mai bine astfel de sarcini, iar testele nu mai spun nimic relevant despre candidați, potrivit TechRadar . Schimbarea indică o repoziționare operațională în recrutare: accentul se mută de la „scrie cod sub presiune” la „construiește eficient cu ajutorul IA”. Managerul de inginerie Felix Rieseberg, care are și rol de hiring manager la Anthropic, spune că a „îngropat” luna aceasta interviul tradițional de coding. Argumentul său este că, într-un moment în care Claude demonstrează o înțelegere superioară a programării, a pune candidații să rezolve probleme de codare nu mai relevă nimic „semnificativ” despre ei. De ce se schimbă interviurile: „IA codează mai bine decât oamenii” Rieseberg susține că testele de tip „provocare React” și-au pierdut utilitatea, făcând o paralelă: nu ar mai avea sens să ceri o astfel de probă, la fel cum nu mai are sens să „chestionez oamenii despre assembly”, în condițiile în care Claude ar fi mai bun la ambele. În locul probelor standardizate, el descrie o direcție în care candidații ar putea fi evaluați mai degrabă prin rezultate obținute cu IA: idei „radicale” și prototipuri construite rapid (de exemplu, într-un weekend) cu ajutorul instrumentelor de inteligență artificială, plus impactul concret al acestora. Ce caută acum Anthropic la juniori: impact și prototipuri, nu exerciții Mesajul pentru inginerii juniori, în logica lui Rieseberg, este să se concentreze pe a produce impact și pe a înțelege compania și oamenii din organizație, nu pe a „bifa” un test de programare. În paralel, managerul spune că nu renunță la recrutare, dar caută o metodă nouă de evaluare pentru candidații care „construiesc bine cu IA”. În practică, el afirmă că scanează CV-uri și portofolii pentru prototipuri care arată „gust” (judecată de produs), empatie și gândire bazată pe principii. Ce urmează: o perioadă de tranziție în evaluarea candidaților Rieseberg admite că nu a ajuns încă la o formulă completă pentru a intervieva oamenii în acest nou context, dar sugerează că nu este singurul manager care încearcă să definească interviul potrivit pentru era în care IA scrie cod. Pentru piața muncii din software, semnalul este că „interviul de coding” ar putea fi înlocuit treptat, cel puțin în unele companii, de evaluări centrate pe portofoliu, prototipare și capacitatea de a folosi IA în mod productiv. [...]

Anthropic intră în IPO cu o poziție de numerar uriașă, iar asta îi poate reduce semnificativ dependența de finanțări noi pentru investițiile în infrastructură AI , potrivit IT之家 , care relatează despre analiza făcută de David Oliver Sacks, președintele Consiliului Consultativ pentru Știință și Tehnologie al Casei Albe, pe baza documentului de înregistrare S‑1 al companiei. Sacks a discutat subiectul în cadrul podcastului All‑In și a susținut că Anthropic „este foarte probabil” să devină „cea mai mare companie din istoria capitalismului”, argumentând în principal prin ritmul de creștere și eficiența utilizării capitalului, într-un interval de doar șase ani de la înființare. Cifrele din S‑1: venituri mari și 112 miliarde dolari cash Conform datelor citate, Anthropic a raportat în documentele sale: venituri de 16,3 miliarde dolari (aprox. 76,6 miliarde lei ) în prima jumătate a lui 2026 ; numerar în bilanț de 112 miliarde dolari (aprox. 526,4 miliarde lei ); o estimare de 100 miliarde dolari (aprox. 470 miliarde lei ) pentru venitul recurent anual în 2026. Unghiul relevant pentru piață este că o asemenea rezervă de numerar poate schimba raportul de forțe în IPO: compania ar putea avea nevoie de mai puțini bani de la investitori pentru a-și acoperi comenzile de putere de calcul (capacitate de procesare) și cheltuielile de capital planificate. De ce contează: IPO-ul poate crește „puterea de preț” și controlul asupra acțiunilor Sacks afirmă că există voci pesimiste care consideră că promisiunile viitoare de cheltuieli de capital ale Anthropic ar fi prea mari pentru a putea fi onorate. În lectura sa, IPO-ul ar funcționa însă ca o „garanție” tocmai pentru că firma ar avea deja fonduri suficiente pentru a finanța comenzile de infrastructură și investițiile anticipate. El mai argumentează că, dacă necesarul de finanțare în IPO este mai mic, Anthropic ar putea obține: o putere de negociere mai mare asupra prețului (evaluare/condiții mai bune); un control mai bun asupra volumului de acțiuni aflate în circulație . Controlul votului rămâne la fondatori Potrivit informațiilor din S‑1, compania ar urma să emită acțiuni de clasă F , iar cei șapte fondatori ar deține 50,1% din drepturile de vot . Practic, structura de guvernanță ar consolida controlul fondatorilor chiar și într-un context de listare. În concluzie, mesajul central al analizei este că dimensiunea numerarului raportat și ritmul de creștere ar putea face din IPO-ul Anthropic o operațiune cu cerințe mai reduse de capital decât se anticipa, ceea ce ar îmbunătăți poziția companiei în fața piețelor. Totuși, articolul nu oferă un calendar al listării sau termeni concreți ai ofertei, dincolo de elementele din S‑1 discutate de Sacks. [...]

Papa Leon al XIV-lea respinge ideea de „personalitate juridică” pentru AI, avertizând că ar putea dilua răspunderea legală a oamenilor – o poziție care, dacă prinde tracțiune în dezbaterea publică și politică, poate influența direct felul în care vor fi scrise regulile de responsabilitate pentru daune produse cu ajutorul inteligenței artificiale, potrivit Futurism . Într-un fir amplu de mesaje publicat pe X (fostul Twitter), Papa a criticat apelurile pentru acordarea de drepturi modelelor de AI printr-un mecanism de „personalitate juridică” (concept prin care o entitate non-umană ar primi, în fața legii, un statut similar unei persoane). Argumentul central: o astfel de abordare ar putea muta responsabilitatea pentru abuzuri sau prejudicii „activate” de AI de la oamenii care construiesc și folosesc aceste sisteme către o entitate „fără chip”. „Mașinile sunt unelte, nu persoane.” Pontiful a susținut că viitorul inteligenței artificiale „nu este predeterminat” și că, fiind o tehnologie creată de oameni, depinde de alegerile făcute de societate, inclusiv de decizia de a-i respinge anumite utilizări. În aceeași serie de mesaje, el a cerut ca deciziile care afectează viața, libertatea și folosirea forței să rămână sub „supraveghere umană” efectivă și responsabilă și a reluat apelul ca AI să fie „dezarmată”, în contextul preocupărilor sale legate de arme autonome. De ce contează: miza este răspunderea, nu „drepturile” AI Poziția Papei se aliniază unor îngrijorări exprimate deja de avocați, activiști și legiuitori, notează publicația: acordarea de drepturi unor sisteme AI (de exemplu, drepturi echivalente libertății de exprimare) ar putea complica stabilirea vinovăției atunci când apar consecințe negative. Riscul invocat este apariția unor situații în care niciun om nu mai este identificat drept responsabil în mod clar pentru efectele acțiunilor luate „cu” sau „de” instrumente AI. Context: industria împinge în direcția „conștiinței” AI, Vaticanul rămâne prudent Materialul mai arată că, în pofida acestor rezerve, „mulți actori” din jurul industriei AI susțin că sistemele ar fi – sau ar putea deveni curând – conștiente, ceea ce ar justifica, în opinia lor, acordarea de drepturi. Ca exemplu, este menționat un articol din The New York Times (fără link în textul sursă), potrivit căruia reprezentanți ai Anthropic (dezvoltatorul Claude) ar fi discutat în această vară cu lideri religioși, încurajând clerul să ia în calcul posibilitatea ca modelele AI să fie conștiente. Potrivit Futurism, aceste discuții nu par să-i fi schimbat poziția Papei, care a cerut și crearea unor instituții internaționale „efective” pentru protejarea binelui comun global, prin standarde comune, supraveghere independentă și mecanisme de responsabilizare – astfel încât deciziile privind dezvoltarea și utilizarea AI să poată fi examinate, contestate și să existe remedii pentru eventualele prejudicii. [...]

Implementarea greșită a AI poate eroda avantajul competitiv al companiilor , nu doar lipsa adoptării tehnologiei, avertizează Andrei Negulescu, Chief Growth Officer la Matricia Solutions , într-o intervenție la ZF Digital Summit 2026 , potrivit Ziarul Financiar . În următorii cinci ani, riscul ar deveni mai vizibil în organizațiile care se bazează prea mult pe inteligența artificială în detrimentul implicării angajaților, cu efecte directe asupra creativității și capacității de a găsi soluții de îmbunătățire a activității. „Una dintre principalele mele îngrijorări este că, peste cinci ani, nu vom vedea rămânând în urmă doar companiile care nu au adoptat inteligenţa artificială, ci şi pe cele care au implementat-o greşit.” Negulescu susține că, în loc să folosească AI pentru a amplifica competențele interne, unele companii ar putea ajunge să își submineze tocmai diferențiatorul – creativitatea și contribuția directă a oamenilor la optimizarea proceselor – și să își piardă avantajul competitiv. În acest context, el atrage atenția și asupra tentației de a înlocui decizia managerială și expertiza cu execuția automată, pe logica „de ce să mai angajeze oameni buni” dacă sarcinile pot fi lăsate integral către AI. AI ca instrument operațional, nu ca substitut de strategie Din perspectiva Matricia Solutions, rolul tehnologiei și al digitalizării ar trebui să fie preluarea sarcinilor care nu aduc valoare adăugată, astfel încât angajații să își poată concentra timpul și energia pe activitățile relevante pentru business și pe creșterea competitivității. Mesajul central: companiile trebuie să păstreze controlul asupra propriei strategii, iar AI să fie integrată ca instrument, nu ca înlocuitor al contribuției umane. Un alt punct subliniat este că strategia de digitalizare ar trebui să pornească de la ceea ce compania știe să facă cel mai bine, de la competențele pe care vrea să le dezvolte și de la obiectivele pe care și le-a propus. În această logică, adoptarea tehnologiei trebuie să răspundă unor nevoi concrete, nu să devină un scop în sine. Risc operațional: utilizarea „din proprie inițiativă” și controlul datelor Negulescu indică și o preocupare întâlnită la clienți: folosirea instrumentelor de inteligență artificială de către angajați din proprie inițiativă, fără ca organizația să știe unde ajung datele introduse și cum sunt utilizate. Ca răspuns, compania încearcă să integreze AI direct în procesele de business existente și în platformele deja folosite de angajați, astfel încât organizațiile să păstreze controlul asupra informațiilor. În esență, avertismentul pentru management este că „adoptarea AI” nu este, în sine, o garanție de performanță: diferența o face felul în care tehnologia este guvernată (cine decide, unde se folosește, ce date intră și ce iese) și cât de bine este păstrat rolul oamenilor în activitățile care aduc valoare. [...]