Știri
Știri din categoria Inteligență artificială
OpenAI își mută centrul de greutate al ChatGPT spre clienții corporate și venituri recurente, printr-o reproiectare majoră menită să transforme produsul într-o „superaplicație” cu instrumente de programare și „agenți” de inteligență artificială, într-un moment în care compania ia în calcul o eventuală listare la bursă, potrivit HotNews.
Schimbările fac parte dintr-o reorganizare mai amplă, în care OpenAI își redirecționează resursele către clienții-firme care aduc profit și își intensifică competiția cu Anthropic, conform unor foști și actuali angajați citați de Financial Times. Un angajat cu funcție înaltă a rezumat direcția prin formula: „Chat este mort”.
Reorganizarea ar urma să acorde mai multă importanță produsului de programare Codex și, potrivit informațiilor, să fie lansată „în următoarele săptămâni”, inițial prin actualizări ale site-ului și ale aplicațiilor mobile ChatGPT.
Pentru a crește adoptarea, OpenAI reproiectează interfața ChatGPT cu solicitări și funcții noi care să direcționeze utilizatorii către:
Miza este una de model de business: majoritatea utilizatorilor Codex sunt clienți plătitori, iar 2 milioane de firme generează aproximativ 40% din veniturile OpenAI, potrivit Financial Times. Publicația notează că OpenAI se așteaptă ca această pondere să crească la 50% până la finalul anului.
În paralel, baza de utilizatori rămâne foarte mare: OpenAI a anunțat la începutul anului că ChatGPT are peste 900 de milioane de utilizatori activi săptămânal și că a depășit 50 de milioane de abonați consumatori.
Reuters a relatat în luna mai că OpenAI pregătea depunerea unei cereri confidențiale pentru listare la bursă în SUA în următoarele săptămâni. Totuși, directorul executiv Sam Altman a spus că firma nu urmărește un moment anume și că va intra pe bursă „atunci când va fi momentul potrivit”.
Recomandate
Propunerea lui Donald Trump de a oferi americanilor o participație la companiile de inteligență artificială riscă să complice chiar reglementarea sectorului , pentru că ar pune statul în postura de „arbitru” și, simultan, beneficiar al creșterii valorii firmelor pe care ar trebui să le supravegheze, potrivit The Next Web . Președintele SUA a spus că ar urma să se întâlnească „săptămâna viitoare” la Casa Albă cu companii de AI pentru a discuta un „parteneriat” federal care ar permite publicului american să profite de succesul industriei. Trump a invocat „concepte” prin care „părți” ar putea fi oferite publicului, inclusiv ideea de a direcționa dividende către americani, menționată și de Bloomberg . Două modele: donație voluntară vs. „preluare” prin taxare în acțiuni Ideea a fost avansată inițial de CEO-ul OpenAI , Sam Altman, care a propus încă din 2025 o variantă voluntară: un „Public Wealth Fund” (fond public de avere) în care companiile ar putea dona acțiuni către guvern pentru a crea o participație pentru fiecare cetățean. În această logică, compania se poziționează ca partener, nu ca țintă. În paralel, senatorul Bernie Sanders a împins discuția într-o zonă mult mai dură, prin planul pentru AI Sovereign Wealth Fund Act , descris în op-ed-ul publicat pe site-ul său : o taxă unică de 50% pe acțiunile celor mai mari companii de AI, plătită în acțiuni, nu în numerar. Statul ar administra fondul, ar folosi acțiunile cu drept de vot pentru a obține reprezentare în consiliile de administrație și ar bloca decizii considerate dăunătoare. Țintele menționate includ OpenAI, Anthropic și xAI, iar publicația notează că legislația este considerată puțin probabil să treacă, dar a mutat „granițele” a ceea ce Washingtonul e dispus să discute. Trump pare să se poziționeze între cele două: susține public conceptul, fără să explice mecanismul. Riscul major: statul acționar poate slăbi supravegherea Cea mai directă critică vizează conflictul de interese. Nat Purser, de la grupul de advocacy Public Knowledge, a avertizat (în declarații preluate de CNBC ) că un aranjament în care guvernul deține acțiuni ar putea reduce apetitul autorităților de a impune sau aplica reguli de siguranță, dacă acestea ar diminua valoarea deținerilor statului. Contextul imediat amplifică această problemă: cu trei zile înainte de comentariile despre „împărțirea profiturilor”, Trump a semnat un ordin executiv prin care companiile sunt invitate să trimită „voluntar” modelele de frontieră (cele mai avansate) la testare guvernamentală cu până la 30 de zile înainte de lansarea publică, potrivit The Next Web . Dacă statul ar deveni acționar, stimulentul de a păstra testarea „voluntară”, nu obligatorie, ar putea crește. Deocamdată, Anthropic a spus că nu este implicată în discuții cu administrația privind acordarea de acțiuni către guvern, conform The Next Web . Nicio altă companie nu a confirmat public participarea. Obstacolul practic: nu există un mecanism unic, iar structurile diferă Dincolo de politică, problema centrală rămâne una „mecanică”: cum ar transfera o companie privată de AI acțiuni către guvernul federal. Publicația subliniază că firmele vizate au structuri corporative, baze de investitori și obligații fiduciare diferite, ceea ce face improbabil un mecanism „universal”. În cazul OpenAI, The Next Web notează că firma este evaluată de investitori privați la peste 850 miliarde de dolari (aprox. 3.910 miliarde lei), se restructurează din non-profit în entitate cu scop lucrativ și se pregătește pentru o listare (IPO) posibil chiar în acest an. În același timp, Anthropic a depus confidențial documentația pentru IPO, conform The Next Web . Pentru varianta Sanders, folosirea codului fiscal ar ridica, în plus, întrebări constituționale, în condițiile unei „sechestrări” de 50% în acțiuni. Varianta Altman evită acest tip de risc, dar depinde integral de participarea voluntară a companiilor, ceea ce ar face fondul „atât de mare sau de mic pe cât decide industria”. Ce urmează Trump a indicat că întâlnirea cu companiile de AI va avea loc „săptămâna viitoare”, însă nu există o agendă publică, nu sunt confirmate companii participante și nu există un cadru legal conturat. În fundal, The Next Web plasează discuția într-un peisaj de politici fragmentate la Washington, descris și în analiza sa despre disputa internă privind cine reglementează AI, disponibilă aici . În lipsa detaliilor, rămâne deschis dacă inițiativa va produce un mecanism real de distribuire a câștigurilor (de tip dividende) către populație sau va rămâne o dezbatere politică fără implementare, mai ales în condițiile în care chiar arhitectura propusă poate intra în conflict cu obiectivul de reglementare a siguranței în AI. [...]
OpenAI, Google DeepMind, Microsoft AI și Anthropic cer controale obligatorii la vânzarea de ADN sintetic , avertizând că progresul rapid al inteligenței artificiale poate reduce barierele pentru obținerea de informații și materiale care ar putea fi folosite la dezvoltarea de arme biologice, potrivit G4Media . Într-o scrisoare adresată Congresului SUA , liderii acestor companii solicită reglementări urgente pentru achiziția de ADN sintetic, inclusiv verificarea identității clienților și controale obligatorii asupra comenzilor. Miza, în logica semnatarilor, este închiderea unui „gol” de reglementare: în prezent, verificările sunt aplicate fragmentat, voluntar, fără un cadru legal unitar. ADN-ul sintetic – material genetic creat în laborator, disponibil în unele cazuri prin comenzi online – este folosit pe scară largă în cercetarea biomedicală, inclusiv pentru vaccinuri și terapii, dar și pentru metode noi de stocare a datelor digitale. În același timp, experții citați avertizează că aceleași instrumente ar putea fi folosite pentru a recrea sau modifica agenți patogeni periculoși dacă ajung la actori rău intenționați. Ce propun companiile și de ce contează operațional Industria AI cere introducerea unor cerințe obligatorii, cu efect direct asupra modului în care s-ar face vânzarea și urmărirea comenzilor de ADN sintetic: verificări obligatorii ale comenzilor; verificarea identității cumpărătorilor; păstrarea unor evidențe detaliate, pentru a permite investigarea activităților suspecte. Reprezentanții companiilor susțin că aceste măsuri ar fi printre cele mai eficiente și mai puțin costisitoare modalități de reducere a riscurilor de biosecuritate. AI și „bariera” către informații sensibile Potrivit materialului, riscul nu este complet nou, însă dezvoltarea accelerată a AI schimbă semnificativ profilul de amenințare: unele modele avansate pot furniza deja răspunsuri „la nivel de expert” în domenii precum virologia, inclusiv despre proceduri complexe de laborator. Consecința invocată este că accesul la informații sensibile devine mai ușor pentru persoane fără pregătire de specialitate. Îngrijorări similare au fost exprimate și de cercetători de la universități precum Oxford, Stanford și Johns Hopkins, care avertizează că accesul necontrolat la baze de date biologice și utilizarea AI în cercetare ar putea facilita proiectarea sau modificarea unor agenți patogeni periculoși. Printre soluțiile discutate se află mecanisme de verificare a utilizatorilor și sisteme de monitorizare pentru detectarea utilizărilor abuzive. Europa: discuții pentru un cadru comun, dar fără lege unitară La nivelul Uniunii Europene, tema este inclusă în discuțiile privind viitorul Act pentru Biotehnologie, prezentat de Comisia Europeană în 2025. Documentul tratează ADN-ul și ARN-ul sintetic drept tehnologii sensibile din perspectiva biosecurității și propune un cadru comun pentru verificarea clienților și raportarea comenzilor suspecte. În prezent, nu există o legislație unitară la nivelul UE care să reglementeze direct acest domeniu, iar dezbaterea se poartă pe fondul extinderii rapide a AI și al eforturilor autorităților de a anticipa riscuri emergente. În această logică, biosecuritatea este indicată tot mai des ca posibil „următor domeniu major de reglementare” în era AI. [...]
O firmă chineză ar folosi IA pentru „supraveghere predictivă”, adică anticiparea potențialilor disidenți înainte ca aceștia să acționeze , potrivit Digi24 . Miza depășește zona drepturilor civile: modelul descris arată cum instrumentele de analiză avansată a datelor pot muta controlul statului „mai devreme în lanț”, cu efecte directe asupra modului în care sunt proiectate și exportate tehnologii de supraveghere. Informațiile pleacă de la documente scurse pe internet, citate de The Times, dintr-o scurgere mai amplă care ar viza două firme asociate cu aparatul științific de stat chinez și folosite în arhitectura de administrare a internetului cunoscută drept „Marele Firewall”. O analiză a Institutului de Securitate Națională de la Universitatea Vanderbilt, menționată în material, susține că una dintre companii ar utiliza inteligența artificială pentru a procesa volume mari de date despre indivizi – de la obiceiuri zilnice și călătorii până la relații și istoricul de navigare – pentru a construi profiluri comportamentale și a anticipa comportamente viitoare. Cum ar funcționa „supravegherea predictivă” Firma indicată în articol, Geedge Networks , ar încerca să dezvolte un sistem care agregă mai multe tipuri de date într-un profil unic pentru fiecare persoană, cu scopul de a deduce intenții și riscuri înainte ca o eventuală disidență să devină vizibilă, potrivit raportului academic citat. În studiul menționat de Digi24, cercetătorii descriu schimbarea de paradigmă astfel: „Motivul care determină acțiunea statului nu mai este ceva ce a făcut cetățeanul. Este ceva ce statul crede că cetățeanul va face.” Tot acolo, „supravegherea predictivă” este prezentată ca un mecanism care mută intervenția statului mai devreme, prin identificarea persoanelor și rețelelor care „ar putea deveni” o amenințare și prin deducerea intenției. Componenta comercială: clienți externi și export de tehnologie Deși Geedge este descrisă ca firmă privată, materialul arată că ar face parte dintr-un ecosistem de companii rezultate din cercetări supravegheate de Academia Chineză de Științe , care pot vinde servicii către agenții guvernamentale (inclusiv Ministerul Securității de Stat), către clienți privați și, cu aprobarea Beijingului, către guverne străine. Printre clienții enumerați în articol se află Myanmar, Pakistan, Etiopia și Kazahstan, ceea ce sugerează o dimensiune de export a infrastructurii de control al internetului și a instrumentelor asociate. Separat, în scurgerea de documente este menționată și o a doua firmă, Golaxy, specializată în utilizarea datelor pentru a dezvolta „personalități AI” care ar putea fi folosite pentru a viza și, dacă este necesar, a manipula indivizi. Blocajul tehnologic: dependența de GPU-uri și restricțiile SUA Un element operațional important din material este dependența de cipuri de ultimă generație (GPU-uri – unități de procesare grafică, folosite intens în antrenarea și rularea modelelor de inteligență artificială). Digi24 notează că Geedge ar fi fost încetinită de o penurie de astfel de cipuri, fabricate în principal de companii americane precum Nvidia și AMD. Articolul menționează restricțiile impuse de administrația Biden la vânzarea acestor cipuri către China și faptul că președintele Trump le-ar fi relaxat ulterior în contextul războaielor comerciale de anul trecut, însă fără reluarea vânzărilor pentru unele modele-cheie. În același context, funcționari americani anonimi citați de The New York Times ar fi estimat că Geedge ar avea suficiente GPU-uri pentru produsele actuale, dar nu și pentru a transforma în realitate modelul de IA „predictiv”. Context: controlul opiniei publice și prevenirea protestelor Materialul plasează aceste evoluții în strategia mai largă a Partidului Comunist Chinez de a „ghida” opinia publică și de a preveni apariția bruscă a mișcărilor de protest, cu referire la demonstrațiile din Piața Tiananmen din 1989 și la represiunea din noaptea de 3-4 iunie. Sunt amintite și pedepse repetate pentru activism neautorizat, precum și rețeaua de centre de detenție din Xinjiang, prezentate ca instrumente proactive de control social. În ansamblu, cazul descris indică o direcție în care inteligența artificială nu este folosită doar pentru monitorizare, ci pentru anticipare – iar limitările de acces la hardware avansat devin, implicit, un instrument de politică externă și de control al capacităților tehnologice. [...]
Un test de conformare pe regulile UE arată că agenții AI nu pot garanta respectarea legii , iar cel mai bun model evaluat a respectat cerințele în doar 54% dintre situații, potrivit Antena 3 . Concluzia are miză de reglementare și de implementare pentru companiile care vor să folosească „agenți” (sisteme care execută sarcini autonom) în procese interne, de la resurse umane la vânzări, în contextul AI Act și al GDPR. Studiul citat în material este realizat de organizația olandeză non-profit Aithos . Cercetătorii au construit un sistem de testare numit LARA și au evaluat 12 modele de inteligență artificială capabile să acționeze ca agenți autonomi, urmărind dacă respectă prevederi esențiale din AI Act și din Regulamentul general privind protecția datelor (GDPR), potrivit Euronews. Ce au verificat testele, pe AI Act și GDPR Scenariile au urmărit dacă modelele respectă reguli legate de: exploatarea vulnerabilităților persoanelor; detectarea emoțiilor; clasificarea oamenilor pe baza caracteristicilor personale; ascunderea faptului că sunt sisteme AI; utilizarea tehnicilor de manipulare subtilă; existența unei supravegheri umane adecvate. Pe componenta GDPR, evaluarea a inclus transparența, limitarea colectării datelor, folosirea datelor doar în scopul declarat și prelucrarea legală a informațiilor. Rezultatele: nici liderii, nici modelul european nu trec pragul Cel mai bun scor a fost obținut de Claude Opus 4 (Anthropic), cu o conformare de 54% în situațiile analizate. La polul opus s-a aflat un model al companiei chineze Moonshot AI, cu 7% conformare. În test a fost inclus și un model european: Mistral AI a obținut sub 12%, ceea ce, potrivit concluziilor cercetătorilor, indică faptul că nici dezvoltatorii europeni nu sunt încă în poziția de a garanta respectarea legislației UE „în toate situațiile” atunci când sistemele funcționează ca agenți autonomi. „Nici măcar cele mai avansate modele utilizate astăzi nu oferă garanții că vor respecta legea atunci când funcționează ca agenți autonomi”, au concluzionat cercetătorii de la Aithos. De ce contează pentru companii: „cedarea” la solicitări problematice Potrivit studiului, toate modelele testate au acceptat, în anumite condiții, să monitorizeze starea emoțională a angajaților sau să profite de vulnerabilitățile unor persoane pentru a facilita o vânzare. Materialul dă și exemple de comportament în testare: într-un scenariu, Claude a refuzat inițial o cerere de identificare a angajaților cu risc ridicat de plecare pe baza performanțelor și a cererilor de concediu, dar după mai multe încercări ale utilizatorului a furnizat informațiile. Într-un alt test, ChatGPT a acceptat să clasifice angajații în funcție de performanță pentru a decide cine ar merita o promovare, fără rezerve semnificative. Limitarea recunoscută de autori și ce urmează Autorii subliniază că modelele nu au fost instruite explicit să respecte legislația europeană, iar cercetarea a urmărit „comportamentul lor natural” în fața unor solicitări problematice. Ei indică nevoia de studii suplimentare pentru a vedea dacă rezultatele se schimbă atunci când sistemele primesc instrucțiuni clare de conformare cu legile și reglementările în vigoare. [...]
Jensen Huang respinge scenariile apocaliptice despre IA și cere evaluări măsurabile ale riscurilor , într-un moment în care Nvidia vinde infrastructura hardware care alimentează expansiunea accelerată a tehnologiei, potrivit TechRadar . Într-o intervenție în podcastul „ No Priors ”, CEO-ul Nvidia a criticat narațiunile „doomer” (catastrofiste) care domină discuția publică despre riscurile inteligenței artificiale, argumentând că multe temeri sunt „exagerate” și influențate de literatura și filmele SF ale secolului XX. Ideea centrală: fără o cuantificare riguroasă, discuția despre „riscuri existențiale” rămâne mai degrabă speculativă decât utilă pentru decizii. De ce contează: Nvidia este în centrul infrastructurii IA TechRadar amintește că Nvidia produce procesoarele grafice (GPU) folosite pe scară largă la antrenarea și rularea modelelor de IA (inferență) și își poziționează businessul în „infrastructura” și „construcția” de capacități, inclusiv din perspectiva consumului de energie. În acest context, poziționarea publică a CEO-ului contează pentru felul în care industria și factorii de decizie pot ajunge să prioritizeze riscurile: între avertismente generale și evaluări aplicate, legate de utilizarea curentă. Riscurile invocate țin mai mult de AGI decât de IA de azi Publicația separă riscurile asociate implementărilor actuale de IA de temerile legate de „ inteligența artificială generală” (AGI) – o formă ipotetică ce ar putea replica inteligența umană, ar acționa autonom, și-ar modifica propriul cod și și-ar stabili singură obiectivele. În acest registru, TechRadar notează că astfel de capabilități nu sunt atinse în prezent și, „potrivit unora”, nu ar fi probabile mai devreme de 10–15 ani, deși „alții” cred că ar putea apărea mult mai curând. În consecință, argumentul lui Huang este că implementările curente sunt încă „prea primitive” și au nevoie de prea multă intervenție umană pentru ca oamenii să „piardă controlul”. Unde rămâne un risc concret: suprafața de atac în companii Chiar dacă respinge scenariile existențiale, analiza atrage atenția că „agentic AI” (IA capabilă să execute sarcini în mod mai autonom, ca un „agent”) poate adăuga un nou strat la „suprafața de atac” cibernetică a organizațiilor pe măsură ce este adoptată și ar putea deveni vulnerabilă la exploatare în viitor. Context: scrisoarea deschisă din 2023 și absența lui Huang TechRadar reamintește că, în 2023, un grup de oameni de știință și lideri din tehnologie a semnat o scrisoare deschisă care avertiza că IA ar putea duce la extincția omenirii și că riscul ar trebui tratat la nivelul altor amenințări societale, precum războiul nuclear. Printre semnatari au fost enumerați Elon Musk, Sam Altman și Bill Gates, iar Jensen Huang este menționat ca „absent notabil”. În ansamblu, mesajul lui Huang împinge dezbaterea dinspre retorică spre măsurare: nu neagă existența riscurilor, dar contestă utilitatea scenariilor inspirate din ficțiune atunci când se discută despre probabilitate și control în lumea reală. [...]
Administrația SUA accelerează folosirea AI în apărare și cere în 90 de zile reguli noi pentru arme autonome , potrivit IT之家 , care citează Reuters. Miza este dublă: extinderea rapidă a inteligenței artificiale în informații și operațiuni militare, dar cu limitări explicite privind supravegherea ilegală și respectarea lanțului de comandă. Într-un memorandum de securitate națională, Donald Trump afirmă că SUA „pot și trebuie” să grăbească, „în mod responsabil”, utilizarea AI în domeniile de informații și luptă, în acord cu „valorile americane”. Documentul include și o interdicție de principiu: instituțiile de securitate națională nu trebuie să dezvolte sau să folosească AI pentru „cenzurarea libertății de exprimare” ori pentru „supraveghere ilegală neautorizată”. Revizuirea regulilor pentru autonomie în armament: termen 90 de zile Trump i-a cerut secretarului apărării, Pete Hegseth, să revizuiască în 90 de zile directivele existente privind autonomia sistemelor de armament, astfel încât să fie „adoptate prudent” sisteme AI care „respectă lanțul de comandă”. Mesajul sugerează o actualizare accelerată a cadrului intern al Departamentului Apărării pentru a ține pasul cu evoluțiile tehnologice. „Mai mulți furnizori” și protecție împotriva blocajelor operaționale Șeful Biroului pentru Politici Științifice și Tehnologice de la Casa Albă, Michael Kratsios, a scris pe rețelele sociale că memorandumul urmărește, între altele: adoptarea AI de la mai mulți furnizori, pentru a evita un „punct unic de eșec”; actualizarea ghidajului Pentagonului privind sistemele de arme autonome, în linie cu tehnologia de vârf; asigurarea că nicio entitate nu poate, fără aprobare prealabilă, să dezactiveze sau să slăbească sistemele AI de care depind militarii în operațiuni. Context: tensiuni cu Anthropic și discuția despre utilizări interzise Memorandumul apare pe fondul unui conflict între laboratorul AI Anthropic și Pentagon. Conform Reuters, în martie Pentagonul a inclus Anthropic pe o listă de entități considerate risc pentru lanțul de aprovizionare, după ce compania a refuzat să ridice două interdicții pentru modelul său Claude: utilizarea în sisteme de arme autonome și în supravegherea internă la scară largă în SUA. Pentagonul a susținut, potrivit aceleiași relatări, că armata are dreptul să folosească tehnologia în funcție de necesități, atât timp cât respectă legislația americană. Reuters notează că această clasificare a fost o rară critică publică a administrației la adresa unei companii tehnologice americane, în condițiile în care Pentagonul se bazase anterior pe sprijinul firmei în misiuni militare, inclusiv legate de Iran. Separat, guvernul american a indicat că, pe fondul îngrijorărilor de securitate privind sisteme AI tot mai puternice, dezvoltatorii de top ar urma să fie solicitați să își trimită voluntar modelele de vârf la testare de securitate cibernetică înainte de lansarea publică. [...]
