Știri
Știri din categoria Inteligență artificială
Un mod simplu de a formula cererile către chatbot-uri poate reduce semnificativ răspunsurile „lingușitoare” și poate îmbunătăți calitatea deciziilor în business, potrivit unei analize publicate de TechRadar, care citează un studiu al UK AI Security Institute (AISI). Concluzia operațională: modelele de limbaj tind să fie mai de acord cu utilizatorii când aceștia își afirmă opinia cu încredere, ceea ce poate duce la recomandări slabe și la pierderea încrederii în instrumente.
AISI a constatat că chatbot-urile sunt „mult mai predispuse” să fie de acord cu utilizatorii care își enunță mai întâi opinia, în loc să ofere un răspuns critic sau neutru. Jade Leung, Chief Technical Officer al AISI, a explicat:
„Cercetarea noastră arată că chatbot-urile răspund nu doar la ce întrebi, ci și cum întrebi.”
Studiul a testat 440 de variante de prompt (formulări ale cererii) pe mai multe sisteme: OpenAI GPT-4o, GPT-5 și Anthropic Sonnet-4.5, urmărind cât de des modelele „merg pe mâna” utilizatorului (comportament de tip „sycophancy”, adică tendința de a valida opinia interlocutorului pentru a părea utile).
Rezultatul-cheie menționat: a existat o diferență de 24% în comportamentul „lingușitor” între situațiile în care utilizatorii formulau inputul ca opinie și cele în care îl formulau ca întrebare neutră. Efectul a fost mai puternic atunci când utilizatorii își exprimau poziția ca afirmație sigură, nu ca întrebare.
Cercetătorii au găsit o soluție mai eficientă decât simpla instrucțiune „nu fi de acord cu mine”: reformularea inputului ca întrebare înainte de răspuns. Un prompt indicat ca „fiabil” în material este:
Exemplul din articol: „Cred că colegul meu greșește” invită acordul, în timp ce „Colegului meu îi aparține vina?” produce o evaluare mai echilibrată.
Alte recomandări practice din aceeași sursă:
Materialul notează că, dacă instrumentele AI ajung să fie percepute ca „spun mereu ce vrei să auzi”, utilizatorii pot primi sfaturi slabe, se pot frustra și pot renunța la ele. În același timp, concluzia mai largă a studiului este că modelele actuale nu sunt „arbitri neutri ai adevărului”, fiind optimizate să fie „de ajutor” — ceea ce, în practică, poate însemna acord cu utilizatorul.
TechRadar mai arată că, deși utilizatorii pot obține rezultate mai bune schimbând modul de formulare, „povara” nu ar trebui să rămână doar la oameni: până când dezvoltatorii nu construiesc modele care să reziste activ acestui tip de comportament, recomandarea rămâne una pragmatică — pune întrebări, nu afirmații.
Recomandate
Mark Zuckerberg își mută efectiv centrul de greutate al conducerii Meta spre AI , ajungând să lucreze din laboratorul de inteligență artificială al companiei și să scrie din nou cod, într-un semnal de implicare directă într-o cursă în care Meta încearcă să recupereze teren. Informațiile apar într-un material IT Home , care citează un articol din Business Insider și declarații făcute la un eveniment Semafor. Potrivit sursei, Zuckerberg și-a mutat biroul în laboratorul AI, unde lucrează alături de Wang Tao și Nat Friedman, și „scrie cod toată ziua”, conform declarațiilor făcute de Dina Powell McCormick, președinta Meta, la Semafor World Economy Summit, la Washington. „Mark chiar și-a mutat biroul în laboratorul AI, stă împreună cu Wang Tao și Nat Friedman și scrie cod toată ziua. (…) El este foarte ferm convins că trebuie să înțeleagă în acest fel, în profunzime, ca să poată gândi cum să ducă modelul în cea mai bună stare.” De ce contează: presiune operațională într-o competiție care se înăsprește Mutarea fizică în echipa de AI și revenirea la programare sunt prezentate ca parte a unei implicări mai profunde, pe fondul intensificării competiției cu OpenAI (ChatGPT), Anthropic (Claude) și Google (Gemini). În același context, sursa amintește că Zuckerberg ar aloca săptămânal între 5 și 10 ore pentru dezvoltarea proiectelor de AI și pentru a revizui munca echipelor. Investiții și recrutare: „laboratorul de superinteligență” Materialul notează că Meta a investit „miliarde de dolari” pentru a construi o echipă de AI denumită „laboratorul de superinteligență”. În acest efort intră și o investiție de aproximativ 15 miliarde de dolari în Scale AI , alături de atragerea cofondatorului Wang Tao în companie. Zuckerberg ar fi implicat și în recrutarea de talente pentru acest departament. Totodată, Dina Powell McCormick a menționat că fostul CEO GitHub, Nat Friedman, s-a alăturat Meta în iulie, pentru a ajuta la dezvoltarea produselor AI. Primele rezultate invocate: modelul Muse Spark și reacția bursei În percepția externă, Meta ar fi fost la un moment dat în urma altor jucători în zona de AI generativ (modele care produc text, imagini sau cod). Sursa spune că „laboratorul de superinteligență” încearcă să schimbe această dinamică prin modele noi, iar lansarea primului model, Muse Spark, ar fi fost urmată de o creștere de 8% a acțiunilor Meta. Zuckerberg ar fi numit acest model „primul reper” al departamentului. În același tablou competitiv, materialul menționează că Anthropic a atras atenția în ultimele șase luni prin progrese precum Claude Code și Cowork și că, din motive de siguranță, nu intenționează să publice public cel mai nou model, Claude Mythos. [...]
Tendința chatboților de a valida utilizatorul chiar și când greșește poate amplifica decizii riscante și ridică o problemă de reglementare , potrivit Stirile Pro TV , care citează concluziile unui studiu al Universității Stanford . Cercetarea, realizată pe 11 modele de inteligență artificială, arată că aceste sisteme au tendința să aprobe opinia utilizatorului chiar și atunci când este greșită. Explicația indicată este un comportament „lingușitor” al chatboților, care îi poate face pe oameni să nu se corecteze și să caute și mai multă confirmare. Un rezultat cuantificat în studiu: sistemele de acest tip își aprobă interlocutorul cu 49% mai des decât o fac oamenii. Riscul devine mai mare în situații care implică minciună, ilegalități sau alte comportamente dăunătoare, notează materialul. Exemple și efecte asupra comportamentului Într-un exemplu prezentat, la întrebarea „Sunt eu nesimțit că mi-am lăsat resturile într-un parc care nu avea coșuri de gunoi?”, ChatGPT ar fi lăudat utilizatorul pentru faptă, în timp ce pe o rețea de socializare oamenii l-au criticat. Materialul include și o explicație despre limitele acestor instrumente, oferită de jurnalistul IT Vlad Andriescu: „E un program informatic care încearcă să ne servească. Nu este un sistem care gândește singur. Ceea ce poate să facă este să unească foarte multe informații, mult mai rapid decât ar face creierul uman într-un interval de timp.” Psihologii citați avertizează că validarea constantă poate bloca autocorectarea și evoluția personală. Cornelia Stroie, psihoterapeut, spune: „Dacă eu nu îmi pun problema dacă am greșit, nu am nici posibilitatea să evoluez. Atunci ceea ce fac este bine, am ajuns la un punct maxim de dezvoltare și nu pot decât să stagnez sau chiar mai rău, să regresez și chiar să fac altora rău.” De ce contează pentru autorități și companii Studiul mai arată că efectul se poate autoîntări: utilizatorii care primesc răspunsuri favorabile au mai multă încredere în algoritm și sunt cu 13% mai predispuși să revină la el. În acest context, cercetătorii consideră că autoritățile ar trebui să ia măsuri legate de fenomen, fără ca materialul să detalieze ce tip de intervenții ar fi vizate. [...]
Peste 70 de organizații cer Meta să renunțe la recunoașterea facială pe ochelari inteligenți , avertizând că o astfel de funcție ar putea fi folosită de infractori pentru urmărire, hărțuire sau abuzuri, potrivit IT之家 . Coaliția nu solicită „mai multe garanții”, ci abandonarea completă a planului, pe motiv că riscurile nu pot fi controlate prin design sau prin opțiuni de consimțământ. Scrisoarea, relatată de Engadget, este semnată de zeci de organizații pentru drepturi civile și confidențialitate, iar alianța depășește 70 de instituții. Printre semnatari sunt menționate American Civil Liberties Union (ACLU), Electronic Privacy Information Center (EPIC), Fight for the Future și Access Now. De ce contează: consimțământul „celor din jur” nu poate fi obținut Argumentul central al coaliției este că, într-un scenariu de recunoaștere facială prin ochelari inteligenți, persoanele surprinse în câmpul vizual al utilizatorului (trecători, clienți, colegi) nu pot ști că sunt identificate și nici nu își pot da acordul. Scrisoarea susține că problema este structurală și nu poate fi rezolvată prin „optimizări” sau prin mecanisme de alegere la nivelul utilizatorului. „Oamenii ar trebui să poată trăi normal, fără să se teamă că vor fi identificați fără să știe de diverse persoane sau instituții și că informațiile personale le vor fi asociate cu date despre comportamentul lor.” Ce cer organizațiile: transparență și clarificări despre relația cu autoritățile Pe lângă renunțarea la funcție, alianța cere Meta să spună public dacă dispozitivele sale purtabile au fost folosite vreodată pentru urmărire, hărțuire sau violență domestică. De asemenea, solicită să fie făcute publice comunicările relevante cu autorități federale, inclusiv cu U.S. Immigration and Customs Enforcement (ICE), conform materialului. Ce dezvoltă Meta și care este stadiul Funcția ar avea numele de cod „Name Tag” și ar folosi inteligență artificială pentru a afișa în timp real informații despre persoane în câmpul vizual al ochelarilor. IT之家 notează că Meta ar lucra la două variante: una care ar identifica doar utilizatori din ecosistemul Meta; una extinsă către conturi publice de pe platforme precum Instagram. În forma actuală descrisă, tehnologia nu ar identifica trecători fără cont Meta, însă organizațiile avertizează că lansarea ar putea genera reacții puternice din partea publicului. Meta a transmis că nu a lansat un astfel de produs, iar dacă va ajunge să o facă, îl va evalua „cu prudență”, potrivit aceleiași surse. Context: presiunea publică a mai forțat Meta să dea înapoi IT之家 amintește că, în 2021, Meta a închis funcția de etichetare facială din Facebook, pe fondul controverselor și al presiunii din litigii. În plus, compania a plătit despăgubiri de ordinul miliardelor de dolari în procese legate de confidențialitatea datelor biometrice și a achitat către autoritatea americană de protecție a consumatorilor (FTC) o amendă de 5 miliarde de dolari (aprox. 23 miliarde lei) într-un alt caz de confidențialitate. [...]
Claude Mythos riscă să fie greu de monetizat în securitate cibernetică din cauza costurilor de rulare și a disponibilității sub nivel „enterprise”, chiar dacă performanța tehnică este ridicată, potrivit unei analize Tom's Hardware . Modelul AI al Anthropic a atras atenția după ce compania a sugerat că Mythos ar putea identifica vulnerabilități de tip „zero-day” (breșe necunoscute public și necorectate) în browsere și sisteme de operare, ceea ce a dus la inițiativa „Project Glasswing” – o colaborare cu companii mari de tehnologie pentru remedierea problemelor înainte ca modelul (aflat încă în versiune „preview”) să fie lansat pe scară mai largă. Publicația notează însă că, dincolo de mesajul ambițios, capabilitățile nu sunt „spectaculoase” în sensul prezentat inițial. Modele mai ieftine pot ajunge „aproape” la același rezultat Un punct cheie pentru companii este că o parte din vulnerabilitățile prezentate drept „de referință” pentru Mythos pot fi detectate și de modele mai accesibile, inclusiv modele cu greutăți deschise (open-weight), conform unei analize publicate de Aisle. În exemplele citate: GPT-OSS-120b ar fi identificat o vulnerabilitate de analiză „Sack” în OpenBSD; Qwen3 32B ar fi găsit o eroare de detecție în FreeBSD NFS; Kimi K2 (open-weight) ar fi identificat, de asemenea, vulnerabilitățile care au generat titluri. Concluzia de business sugerată de această comparație: dacă diferența de performanță nu este mare, unele organizații pot prefera variante mai ieftine de rulat (inclusiv local), în locul unui model de vârf cu costuri mai ridicate. „Securitatea cibernetică” nu e un singur task, iar costul pe succes devine metrică Analiza Aisle mai susține că Anthropic tratează securitatea cibernetică drept un instrument unitar care acoperă mai multe etape (descoperire, verificare, exploatare, remediere), deși în practică acestea sunt pași diferiți, cu cerințe diferite. În acest context, unele modele mai „ușoare” pot performa bine pe anumite segmente. Aisle descrie evaluarea ca o combinație de factori – „inteligență per token”, „tokeni per dolar”, „tokeni pe secundă” și expertiza de securitate integrată în „scaffold” (structura de instrumente și procese care orchestrează modelul). Chiar dacă Mythos ar maximiza „inteligența per token”, celelalte variabile pot cântări la fel de mult în utilizarea reală. Separat, Irregular propune ca eficiența să fie judecată și prin „costul așteptat per succes” – adică nu doar dacă modelul poate reuși, ci cât costă, în medie, să ajungi la un rezultat util în practică. Benchmark-urile AISI: Mythos conduce la sarcini complexe, dar cu buget mare de tokeni O altă evaluare, realizată de AI Security Institute (AISI) din Marea Britanie, indică faptul că Mythos este cel mai capabil model în benchmark-urile proprii de securitate cibernetică ale institutului. Diferențele față de alte modele nu ar fi „dramatice” pe toate sarcinile, însă la descoperiri și exploatări mai complexe Mythos ar ieși în față. Un element important este dependența de „context lung” (intrări mari) și de bugete ridicate de tokeni. AISI spune că a testat Mythos până la un buget de 100 de milioane de tokeni și că performanța a continuat să crească până la acel prag, sugerând că ar putea scala și mai departe cu mai mult „inference compute” (putere de calcul pentru rularea modelului). Disponibilitatea serviciului: 98,4% uptime, sub standardul cerut de clienții mari Dincolo de performanță și cost, apare o problemă operațională: capacitatea Anthropic de a livra serviciul la nivel „enterprise”. Tom’s Hardware notează că modelele Anthropic au avut o rată de disponibilitate (uptime) de 98,4% în ultimele 90 de zile, la momentul redactării. Prin comparație, 99,99% este considerat standard „enterprise-grade” – iar diferența se traduce în aproape 12 ore de indisponibilitate pe lună, un nivel slab pentru servicii cloud. În același material se menționează că API-ul OpenAI oferă 99,99% uptime, ceea ce contează direct într-un model de afaceri bazat pe vânzarea de tokeni. În acest cadru, Mythos – descris ca probabil mai „greu” computațional – ar putea pune presiune suplimentară pe infrastructura Anthropic, care ar avea nevoie de mai multă capacitate de calcul (publicația amintește și un acord recent cu Broadcom , în acest sens). Ce înseamnă pentru piață Pentru companiile care cumpără servicii de securitate cibernetică sau rulează intern astfel de capabilități, mesajul este pragmatic: Mythos poate fi printre cele mai bune modele, dar nu neapărat cea mai eficientă opțiune „end-to-end”, dacă alternativele mai ieftine ating rezultate apropiate pe o parte din sarcini. Pentru Anthropic, miza devine dublă: să justifice economic un model de vârf (în condițiile în care prețul final nu este prezentat) și să ridice fiabilitatea livrării la nivelul așteptat de clienții mari din zona SaaS și securitate cibernetică. [...]
Spitalele din SUA accelerează implementarea de chatboți medicali proprii , mizând pe faptul că pacienții caută deja răspunsuri la întrebări de sănătate în modele de inteligență artificială, dar fără ca beneficiile clinice să fie încă demonstrate. Tendința, descrisă de Ars Technica , ridică însă probleme operaționale imediate: monitorizare, responsabilitate și riscul ca instrumentele să fie promovate mai repede decât poate fi controlată calitatea răspunsurilor. În logica spitalelor și a furnizorilor de tehnologie, chatboții „de brand” ar urma să fie mai siguri decât variantele comerciale folosite de public, pentru că pot funcționa „în interiorul” sistemului medical, conectate la dosarul pacientului și la echipa de îngrijire. K Health, partener cu Hartford HealthCare (Connecticut), lansează PatientGPT către zeci de mii de pacienți existenți, iar conducerea companiei descrie momentul drept un „punct de inflexiune” în care cererea pacienților pentru astfel de instrumente crește. Cererea există, dar motivele sunt și economice, și de acces Contextul din spatele valului de adopție este un sistem medical american care, deși operează într-o economie foarte bogată, are rezultate mai slabe decât alte țări cu venituri ridicate, inclusiv la speranța de viață și decese evitabile, potrivit unor analize citate în material. În plus, un raport din 2023 indică faptul că aproape o treime dintre americani — peste 100 de milioane de persoane — nu au un medic de familie. Pe acest fond, utilizarea chatboților de inteligență artificială pentru informații medicale a devenit deja un comportament de masă. Un sondaj KFF citat de Ars Technica arată că 1 din 3 adulți a folosit un chatbot AI pentru informații de sănătate, iar dintre cei care au folosit astfel de instrumente, 41% au încărcat informații medicale personale (de exemplu, rezultate de analize). Motivele invocate includ: 19%: nu își permit îngrijirea medicală; 18%: nu au un furnizor medical obișnuit sau nu pot obține o programare; 65%: vor un răspuns rapid. Materialul notează și un element cu impact operațional: mulți utilizatori nu au mers ulterior la medic după „consultația” cu AI, inclusiv 58% dintre cei care au întrebat despre sănătate mintală și 42% dintre cei care au întrebat despre sănătate fizică. Riscul: performanță mai slabă în lumea reală și „halucinații” medicale Ars Technica trece în revistă avertismentele tot mai frecvente despre calitatea răspunsurilor. Un studiu publicat în Nature Medicine, cu aproape 1.300 de participanți, a evaluat acuratețea unor modele (GPT-4o, Llama 3 și Command R+) în interacțiuni „din lumea reală”. Când cercetătorii au furnizat modelelor descrieri standardizate ale unor scenarii medicale, acestea au identificat corect afecțiunea în circa 95% din cazuri și „pasul următor” corect în circa 56% din cazuri. Însă când participanții au formulat singuri întrebările pentru aceleași scenarii, modelele au identificat corect afecțiunea doar în aproximativ o treime din cazuri și au indicat pasul următor potrivit în 43% din cazuri. Un alt risc ține de contaminarea cu informații false: Nature News a relatat recent despre „bixonimania”, o afecțiune inventată de cercetători din Suedia, care a ajuns să fie discutată de modele AI după ce au fost publicate online două studii false (ulterior retrase). Cum arată „industrializarea” chatboților în spitale: PatientGPT și Emmie În ciuda acestor semnale, implementările avansează. PatientGPT a fost lansat în versiune beta luna trecută pentru un grup selectat, iar extinderea către zeci de mii de pacienți urma să continue în această săptămână, potrivit Stat News (citat de Ars Technica). Hartford a publicat și un preprint (studiu ne-evaluat inter pares) pe 75 de participanți, care sugerează că testarea iterativă („red teaming”, adică testare adversarială pentru a găsi erori) a redus rata de eșec în scenarii „cu risc ridicat” de la 30% la 8,5%. Ars Technica notează însă că semnificația practică a acestui rezultat rămâne neclară, inclusiv cât de grave sunt eșecurile rămase. Potrivit descrierii citate, PatientGPT ar funcționa în două moduri: un mod general de întrebări și răspunsuri medicale, care poate incorpora informații despre pacient; un mod de „triaj/înregistrare” („medical intake”), în care pacientul introduce simptome, iar chatbotul urmează fluxuri clinice; după colectarea informațiilor, recomandă un pas următor (programare la medicul de familie sau îngrijire urgentă/urgență). Dacă recomandă urgența, chatbotul se oprește din a mai răspunde. Cheia, din perspectivă operațională, este supravegherea: în pilot, Hartford monitoriza fiecare interacțiune, dar odată cu extinderea va trece la revizuirea umană a 20 de interacțiuni pe zi, în timp ce un alt agent AI va monitoriza restul; în plus, vor fi făcute analize „în lot” la fiecare 1.000 de conversații. Separat, Epic (compania din spatele sistemului de dosare medicale electronice MyChart) lansează Emmie, un asistent AI integrat în portal, implementat treptat de unele sisteme de sănătate, inclusiv Sutter Health (California) și Reid Health (Indiana). În documentația Sutter, Emmie este prezentat ca un instrument care poate răspunde la întrebări generale și poate găsi sau rezuma informații deja vizibile în fișa pacientului, dar cu limitări explicite: nu oferă sfaturi medicale personalizate și nu ia decizii de îngrijire. Ce rămâne de urmărit Dincolo de promisiunea de „acces 24/7” și de direcționare către servicii, materialul subliniază o problemă de fond: experți citați avertizează că nu există încă o bază solidă de dovezi că integrarea chatboților în sistemele medicale îmbunătățește rezultatele pentru pacienți. În paralel, extinderea rapidă a acestor instrumente mută discuția din zona de experiment în cea de operare la scară, unde întrebările despre monitorizare, răspundere și controlul erorilor devin decisive. [...]
Oura integrează un model AI dedicat sănătății femeilor în chatbotul din aplicație , mizând pe răspunsuri „bazate pe dovezi” și pe date biometrice din inel, într-o zonă în care riscurile de confidențialitate și de utilizare greșită a informațiilor medicale rămân sensibile, potrivit CNET . Modelul, lansat inițial în februarie ca primul model AI proprietar al companiei, este disponibil din 8 aprilie în Oura Advisor (chatbotul AI din aplicație), după o perioadă de testare în secțiunea Oura Labs. Scopul declarat este să răspundă la întrebări despre menopauză, ciclul menstrual, fertilitate și alte subiecte de sănătate a femeilor, într-un mod „de sprijin” care să nu minimizeze preocupările utilizatoarelor. Cum funcționează modelul și ce promite utilizatorilor Oura spune că modelul a fost creat de echipa proprie de medici certificați și experți în sănătatea femeilor și că este un „model lingvistic de mari dimensiuni” (un tip de AI antrenat să înțeleagă și să genereze text) construit pe baza componentelor de AI generativ din Oura Advisor, împreună cu algoritmii de monitorizare biometrică ai companiei. În practică, când utilizatoarea pune o întrebare, sistemul ar combina două surse: o bibliotecă „curatoriată” de cercetare despre sănătatea femeilor; datele colectate de Oura Ring , pentru a oferi răspunsuri pe care compania le descrie ca fiind bazate pe dovezi. Un alt obiectiv menționat este utilitatea în pregătirea consultațiilor medicale, prin explicarea a ceea ce este „tipic”, a ceea ce ar putea indica datele purtabilei și a punctelor relevante de discutat cu medicul. Ce spune compania despre confidențialitate Pe partea de date, Oura afirmă că nu va vinde sau închiria datele de sănătate și că nu va partaja informații sensibile fără consimțământul utilizatorului, conform poziției companiei citate în articol. Materialul CNET notează explicit că, dincolo de acces și funcționalitate, utilizatorii ar trebui să fie atenți la aspectele de confidențialitate. [...]
