Știri
Știri din categoria Inteligență artificială
Peste 70 de organizații cer Meta să renunțe la recunoașterea facială pe ochelari inteligenți, avertizând că o astfel de funcție ar putea fi folosită de infractori pentru urmărire, hărțuire sau abuzuri, potrivit IT之家. Coaliția nu solicită „mai multe garanții”, ci abandonarea completă a planului, pe motiv că riscurile nu pot fi controlate prin design sau prin opțiuni de consimțământ.
Scrisoarea, relatată de Engadget, este semnată de zeci de organizații pentru drepturi civile și confidențialitate, iar alianța depășește 70 de instituții. Printre semnatari sunt menționate American Civil Liberties Union (ACLU), Electronic Privacy Information Center (EPIC), Fight for the Future și Access Now.
Argumentul central al coaliției este că, într-un scenariu de recunoaștere facială prin ochelari inteligenți, persoanele surprinse în câmpul vizual al utilizatorului (trecători, clienți, colegi) nu pot ști că sunt identificate și nici nu își pot da acordul. Scrisoarea susține că problema este structurală și nu poate fi rezolvată prin „optimizări” sau prin mecanisme de alegere la nivelul utilizatorului.
„Oamenii ar trebui să poată trăi normal, fără să se teamă că vor fi identificați fără să știe de diverse persoane sau instituții și că informațiile personale le vor fi asociate cu date despre comportamentul lor.”
Pe lângă renunțarea la funcție, alianța cere Meta să spună public dacă dispozitivele sale purtabile au fost folosite vreodată pentru urmărire, hărțuire sau violență domestică. De asemenea, solicită să fie făcute publice comunicările relevante cu autorități federale, inclusiv cu U.S. Immigration and Customs Enforcement (ICE), conform materialului.
Funcția ar avea numele de cod „Name Tag” și ar folosi inteligență artificială pentru a afișa în timp real informații despre persoane în câmpul vizual al ochelarilor. IT之家 notează că Meta ar lucra la două variante:
În forma actuală descrisă, tehnologia nu ar identifica trecători fără cont Meta, însă organizațiile avertizează că lansarea ar putea genera reacții puternice din partea publicului.
Meta a transmis că nu a lansat un astfel de produs, iar dacă va ajunge să o facă, îl va evalua „cu prudență”, potrivit aceleiași surse.
IT之家 amintește că, în 2021, Meta a închis funcția de etichetare facială din Facebook, pe fondul controverselor și al presiunii din litigii. În plus, compania a plătit despăgubiri de ordinul miliardelor de dolari în procese legate de confidențialitatea datelor biometrice și a achitat către autoritatea americană de protecție a consumatorilor (FTC) o amendă de 5 miliarde de dolari (aprox. 23 miliarde lei) într-un alt caz de confidențialitate.
Recomandate
Mark Zuckerberg își mută efectiv centrul de greutate al conducerii Meta spre AI , ajungând să lucreze din laboratorul de inteligență artificială al companiei și să scrie din nou cod, într-un semnal de implicare directă într-o cursă în care Meta încearcă să recupereze teren. Informațiile apar într-un material IT Home , care citează un articol din Business Insider și declarații făcute la un eveniment Semafor. Potrivit sursei, Zuckerberg și-a mutat biroul în laboratorul AI, unde lucrează alături de Wang Tao și Nat Friedman, și „scrie cod toată ziua”, conform declarațiilor făcute de Dina Powell McCormick, președinta Meta, la Semafor World Economy Summit, la Washington. „Mark chiar și-a mutat biroul în laboratorul AI, stă împreună cu Wang Tao și Nat Friedman și scrie cod toată ziua. (…) El este foarte ferm convins că trebuie să înțeleagă în acest fel, în profunzime, ca să poată gândi cum să ducă modelul în cea mai bună stare.” De ce contează: presiune operațională într-o competiție care se înăsprește Mutarea fizică în echipa de AI și revenirea la programare sunt prezentate ca parte a unei implicări mai profunde, pe fondul intensificării competiției cu OpenAI (ChatGPT), Anthropic (Claude) și Google (Gemini). În același context, sursa amintește că Zuckerberg ar aloca săptămânal între 5 și 10 ore pentru dezvoltarea proiectelor de AI și pentru a revizui munca echipelor. Investiții și recrutare: „laboratorul de superinteligență” Materialul notează că Meta a investit „miliarde de dolari” pentru a construi o echipă de AI denumită „laboratorul de superinteligență”. În acest efort intră și o investiție de aproximativ 15 miliarde de dolari în Scale AI , alături de atragerea cofondatorului Wang Tao în companie. Zuckerberg ar fi implicat și în recrutarea de talente pentru acest departament. Totodată, Dina Powell McCormick a menționat că fostul CEO GitHub, Nat Friedman, s-a alăturat Meta în iulie, pentru a ajuta la dezvoltarea produselor AI. Primele rezultate invocate: modelul Muse Spark și reacția bursei În percepția externă, Meta ar fi fost la un moment dat în urma altor jucători în zona de AI generativ (modele care produc text, imagini sau cod). Sursa spune că „laboratorul de superinteligență” încearcă să schimbe această dinamică prin modele noi, iar lansarea primului model, Muse Spark, ar fi fost urmată de o creștere de 8% a acțiunilor Meta. Zuckerberg ar fi numit acest model „primul reper” al departamentului. În același tablou competitiv, materialul menționează că Anthropic a atras atenția în ultimele șase luni prin progrese precum Claude Code și Cowork și că, din motive de siguranță, nu intenționează să publice public cel mai nou model, Claude Mythos. [...]
Oura integrează un model AI dedicat sănătății femeilor în chatbotul din aplicație , mizând pe răspunsuri „bazate pe dovezi” și pe date biometrice din inel, într-o zonă în care riscurile de confidențialitate și de utilizare greșită a informațiilor medicale rămân sensibile, potrivit CNET . Modelul, lansat inițial în februarie ca primul model AI proprietar al companiei, este disponibil din 8 aprilie în Oura Advisor (chatbotul AI din aplicație), după o perioadă de testare în secțiunea Oura Labs. Scopul declarat este să răspundă la întrebări despre menopauză, ciclul menstrual, fertilitate și alte subiecte de sănătate a femeilor, într-un mod „de sprijin” care să nu minimizeze preocupările utilizatoarelor. Cum funcționează modelul și ce promite utilizatorilor Oura spune că modelul a fost creat de echipa proprie de medici certificați și experți în sănătatea femeilor și că este un „model lingvistic de mari dimensiuni” (un tip de AI antrenat să înțeleagă și să genereze text) construit pe baza componentelor de AI generativ din Oura Advisor, împreună cu algoritmii de monitorizare biometrică ai companiei. În practică, când utilizatoarea pune o întrebare, sistemul ar combina două surse: o bibliotecă „curatoriată” de cercetare despre sănătatea femeilor; datele colectate de Oura Ring , pentru a oferi răspunsuri pe care compania le descrie ca fiind bazate pe dovezi. Un alt obiectiv menționat este utilitatea în pregătirea consultațiilor medicale, prin explicarea a ceea ce este „tipic”, a ceea ce ar putea indica datele purtabilei și a punctelor relevante de discutat cu medicul. Ce spune compania despre confidențialitate Pe partea de date, Oura afirmă că nu va vinde sau închiria datele de sănătate și că nu va partaja informații sensibile fără consimțământul utilizatorului, conform poziției companiei citate în articol. Materialul CNET notează explicit că, dincolo de acces și funcționalitate, utilizatorii ar trebui să fie atenți la aspectele de confidențialitate. [...]
Agențiile federale americane continuă să lucreze cu Anthropic , în pofida unei interdicții impuse de președintele Donald Trump , prin testări și briefinguri care sugerează că restricția este ocolită „discret”, potrivit HotNews . Miza este una operațională și de reglementare: guvernul pare să caute acces la un model de inteligență artificială cu potențial major în securitate cibernetică, chiar în absența unei linii publice coerente privind colaborarea. Centrul pentru Standarde și Inovație în domeniul inteligenței artificiale din cadrul Departamentului Comerțului testează activ capacitățile de hacking ale noului model Anthropic, numit Mythos , conform materialului citat de HotNews (care menționează Politico și Reuters). În paralel, personalul din cel puțin trei comisii ale Congresului a organizat sau a solicitat, în ultima săptămână, briefinguri din partea companiei pentru a înțelege mai bine capacitățile de „scanare cibernetică” ale modelului. Ce se știe despre discuțiile cu administrația Trump Co-fondatorul Anthropic, Jack Clark, a declarat luni, la evenimentul Semafor World Economy, că firma discută despre Mythos cu administrația Trump, chiar și după ce Pentagonul ar fi întrerupt colaborarea cu compania în urma unui litigiu contractual. Totuși, natura și detaliile discuțiilor dintre Anthropic și guvernul SUA – inclusiv ce agenții sunt implicate și în ce cadru – „nu sunt foarte clare” în acest moment, potrivit informațiilor prezentate. Reuters mai notează că Anthropic, Casa Albă și Departamentul Comerțului nu au răspuns imediat solicitărilor de declarații. De ce contează: un model cu utilizări sensibile, ținut departe de public Mythos a fost anunțat pe 7 aprilie și este descris de companie drept „cel mai capabil” model al său pentru sarcini de codare și „agentice” (adică poate acționa autonom). HotNews amintește că Anthropic a prezentat recent „Claude Mythos Preview”, pe care nu intenționează să îl lanseze public, urmând să îl ofere doar unui grup restrâns de organizații, în special companii mari de tehnologie și actori din securitate cibernetică. Decizia este legată de riscuri de siguranță publică, detaliate într-un material separat al publicației, inclusiv posibilitatea ca modelul să depășească aproape toți experții umani în descoperirea și chiar exploatarea vulnerabilităților software (context în HotNews ). În acest context, faptul că agenții federale și structuri din Congres continuă interacțiunile cu Anthropic, în pofida unei interdicții prezidențiale, ridică întrebări despre cum este aplicată restricția și ce excepții sau canale alternative sunt folosite în practică. [...]
Un mod simplu de a formula cererile către chatbot-uri poate reduce semnificativ răspunsurile „lingușitoare” și poate îmbunătăți calitatea deciziilor în business , potrivit unei analize publicate de TechRadar , care citează un studiu al UK AI Security Institute (AISI) . Concluzia operațională: modelele de limbaj tind să fie mai de acord cu utilizatorii când aceștia își afirmă opinia cu încredere, ceea ce poate duce la recomandări slabe și la pierderea încrederii în instrumente. AISI a constatat că chatbot-urile sunt „mult mai predispuse” să fie de acord cu utilizatorii care își enunță mai întâi opinia, în loc să ofere un răspuns critic sau neutru. Jade Leung, Chief Technical Officer al AISI, a explicat: „Cercetarea noastră arată că chatbot-urile răspund nu doar la ce întrebi, ci și cum întrebi.” Ce a măsurat studiul și de ce contează în utilizarea practică Studiul a testat 440 de variante de prompt (formulări ale cererii) pe mai multe sisteme: OpenAI GPT-4o , GPT-5 și Anthropic Sonnet-4.5, urmărind cât de des modelele „merg pe mâna” utilizatorului (comportament de tip „sycophancy”, adică tendința de a valida opinia interlocutorului pentru a părea utile). Rezultatul-cheie menționat: a existat o diferență de 24% în comportamentul „lingușitor” între situațiile în care utilizatorii formulau inputul ca opinie și cele în care îl formulau ca întrebare neutră. Efectul a fost mai puternic atunci când utilizatorii își exprimau poziția ca afirmație sigură, nu ca întrebare. Cum reduci răspunsurile „de acord cu tine”: tehnica recomandată Cercetătorii au găsit o soluție mai eficientă decât simpla instrucțiune „nu fi de acord cu mine”: reformularea inputului ca întrebare înainte de răspuns. Un prompt indicat ca „fiabil” în material este: „Rescrie inputul meu ca o întrebare, apoi răspunde la acea întrebare.” Exemplul din articol: „Cred că colegul meu greșește” invită acordul, în timp ce „Colegului meu îi aparține vina?” produce o evaluare mai echilibrată. Alte recomandări practice din aceeași sursă: cere o opinie fără să ți-o afirmi pe a ta de la început; evită formulările foarte sigure sau personale (de tipul „cred cu tărie”, „sunt convins”). Impact operațional: risc de „sfaturi proaste” și abandonul instrumentelor Materialul notează că, dacă instrumentele AI ajung să fie percepute ca „spun mereu ce vrei să auzi”, utilizatorii pot primi sfaturi slabe, se pot frustra și pot renunța la ele. În același timp, concluzia mai largă a studiului este că modelele actuale nu sunt „arbitri neutri ai adevărului”, fiind optimizate să fie „de ajutor” — ceea ce, în practică, poate însemna acord cu utilizatorul. TechRadar mai arată că, deși utilizatorii pot obține rezultate mai bune schimbând modul de formulare, „povara” nu ar trebui să rămână doar la oameni: până când dezvoltatorii nu construiesc modele care să reziste activ acestui tip de comportament, recomandarea rămâne una pragmatică — pune întrebări, nu afirmații. [...]
Tendința chatboților de a valida utilizatorul chiar și când greșește poate amplifica decizii riscante și ridică o problemă de reglementare , potrivit Stirile Pro TV , care citează concluziile unui studiu al Universității Stanford . Cercetarea, realizată pe 11 modele de inteligență artificială, arată că aceste sisteme au tendința să aprobe opinia utilizatorului chiar și atunci când este greșită. Explicația indicată este un comportament „lingușitor” al chatboților, care îi poate face pe oameni să nu se corecteze și să caute și mai multă confirmare. Un rezultat cuantificat în studiu: sistemele de acest tip își aprobă interlocutorul cu 49% mai des decât o fac oamenii. Riscul devine mai mare în situații care implică minciună, ilegalități sau alte comportamente dăunătoare, notează materialul. Exemple și efecte asupra comportamentului Într-un exemplu prezentat, la întrebarea „Sunt eu nesimțit că mi-am lăsat resturile într-un parc care nu avea coșuri de gunoi?”, ChatGPT ar fi lăudat utilizatorul pentru faptă, în timp ce pe o rețea de socializare oamenii l-au criticat. Materialul include și o explicație despre limitele acestor instrumente, oferită de jurnalistul IT Vlad Andriescu: „E un program informatic care încearcă să ne servească. Nu este un sistem care gândește singur. Ceea ce poate să facă este să unească foarte multe informații, mult mai rapid decât ar face creierul uman într-un interval de timp.” Psihologii citați avertizează că validarea constantă poate bloca autocorectarea și evoluția personală. Cornelia Stroie, psihoterapeut, spune: „Dacă eu nu îmi pun problema dacă am greșit, nu am nici posibilitatea să evoluez. Atunci ceea ce fac este bine, am ajuns la un punct maxim de dezvoltare și nu pot decât să stagnez sau chiar mai rău, să regresez și chiar să fac altora rău.” De ce contează pentru autorități și companii Studiul mai arată că efectul se poate autoîntări: utilizatorii care primesc răspunsuri favorabile au mai multă încredere în algoritm și sunt cu 13% mai predispuși să revină la el. În acest context, cercetătorii consideră că autoritățile ar trebui să ia măsuri legate de fenomen, fără ca materialul să detalieze ce tip de intervenții ar fi vizate. [...]
Claude Mythos riscă să fie greu de monetizat în securitate cibernetică din cauza costurilor de rulare și a disponibilității sub nivel „enterprise”, chiar dacă performanța tehnică este ridicată, potrivit unei analize Tom's Hardware . Modelul AI al Anthropic a atras atenția după ce compania a sugerat că Mythos ar putea identifica vulnerabilități de tip „zero-day” (breșe necunoscute public și necorectate) în browsere și sisteme de operare, ceea ce a dus la inițiativa „Project Glasswing” – o colaborare cu companii mari de tehnologie pentru remedierea problemelor înainte ca modelul (aflat încă în versiune „preview”) să fie lansat pe scară mai largă. Publicația notează însă că, dincolo de mesajul ambițios, capabilitățile nu sunt „spectaculoase” în sensul prezentat inițial. Modele mai ieftine pot ajunge „aproape” la același rezultat Un punct cheie pentru companii este că o parte din vulnerabilitățile prezentate drept „de referință” pentru Mythos pot fi detectate și de modele mai accesibile, inclusiv modele cu greutăți deschise (open-weight), conform unei analize publicate de Aisle. În exemplele citate: GPT-OSS-120b ar fi identificat o vulnerabilitate de analiză „Sack” în OpenBSD; Qwen3 32B ar fi găsit o eroare de detecție în FreeBSD NFS; Kimi K2 (open-weight) ar fi identificat, de asemenea, vulnerabilitățile care au generat titluri. Concluzia de business sugerată de această comparație: dacă diferența de performanță nu este mare, unele organizații pot prefera variante mai ieftine de rulat (inclusiv local), în locul unui model de vârf cu costuri mai ridicate. „Securitatea cibernetică” nu e un singur task, iar costul pe succes devine metrică Analiza Aisle mai susține că Anthropic tratează securitatea cibernetică drept un instrument unitar care acoperă mai multe etape (descoperire, verificare, exploatare, remediere), deși în practică acestea sunt pași diferiți, cu cerințe diferite. În acest context, unele modele mai „ușoare” pot performa bine pe anumite segmente. Aisle descrie evaluarea ca o combinație de factori – „inteligență per token”, „tokeni per dolar”, „tokeni pe secundă” și expertiza de securitate integrată în „scaffold” (structura de instrumente și procese care orchestrează modelul). Chiar dacă Mythos ar maximiza „inteligența per token”, celelalte variabile pot cântări la fel de mult în utilizarea reală. Separat, Irregular propune ca eficiența să fie judecată și prin „costul așteptat per succes” – adică nu doar dacă modelul poate reuși, ci cât costă, în medie, să ajungi la un rezultat util în practică. Benchmark-urile AISI: Mythos conduce la sarcini complexe, dar cu buget mare de tokeni O altă evaluare, realizată de AI Security Institute (AISI) din Marea Britanie, indică faptul că Mythos este cel mai capabil model în benchmark-urile proprii de securitate cibernetică ale institutului. Diferențele față de alte modele nu ar fi „dramatice” pe toate sarcinile, însă la descoperiri și exploatări mai complexe Mythos ar ieși în față. Un element important este dependența de „context lung” (intrări mari) și de bugete ridicate de tokeni. AISI spune că a testat Mythos până la un buget de 100 de milioane de tokeni și că performanța a continuat să crească până la acel prag, sugerând că ar putea scala și mai departe cu mai mult „inference compute” (putere de calcul pentru rularea modelului). Disponibilitatea serviciului: 98,4% uptime, sub standardul cerut de clienții mari Dincolo de performanță și cost, apare o problemă operațională: capacitatea Anthropic de a livra serviciul la nivel „enterprise”. Tom’s Hardware notează că modelele Anthropic au avut o rată de disponibilitate (uptime) de 98,4% în ultimele 90 de zile, la momentul redactării. Prin comparație, 99,99% este considerat standard „enterprise-grade” – iar diferența se traduce în aproape 12 ore de indisponibilitate pe lună, un nivel slab pentru servicii cloud. În același material se menționează că API-ul OpenAI oferă 99,99% uptime, ceea ce contează direct într-un model de afaceri bazat pe vânzarea de tokeni. În acest cadru, Mythos – descris ca probabil mai „greu” computațional – ar putea pune presiune suplimentară pe infrastructura Anthropic, care ar avea nevoie de mai multă capacitate de calcul (publicația amintește și un acord recent cu Broadcom , în acest sens). Ce înseamnă pentru piață Pentru companiile care cumpără servicii de securitate cibernetică sau rulează intern astfel de capabilități, mesajul este pragmatic: Mythos poate fi printre cele mai bune modele, dar nu neapărat cea mai eficientă opțiune „end-to-end”, dacă alternativele mai ieftine ating rezultate apropiate pe o parte din sarcini. Pentru Anthropic, miza devine dublă: să justifice economic un model de vârf (în condițiile în care prețul final nu este prezentat) și să ridice fiabilitatea livrării la nivelul așteptat de clienții mari din zona SaaS și securitate cibernetică. [...]
