Știri
Știri din categoria Inteligență artificială
Anthropic cere o „pedală de frână” pentru AI, avertizând că industria se apropie de momentul în care modelele ar putea începe să se îmbunătățească singure, ceea ce ar crește riscul pierderii controlului asupra acestor sisteme, potrivit HotNews.
Avertismentul vine dintr-o postare pe blogul companiei, semnată de Marina Favaro, directoarea Institutului Anthropic, și Jack Clark, cofondator al Anthropic. Ei susțin că modelele de inteligență artificială evoluează atât de rapid încât ar putea ajunge „în curând” să se dezvolte fără intervenția omului.
Cei doi descriu un scenariu în care sistemele ar deveni capabile să-și construiască „propriii succesori” – concept numit „autoperfecționare recursivă completă”. În această situație, spun ei, miza se mută pe capacitatea de a securiza, monitoriza și modela comportamentul AI, pentru că riscul ca oamenii să piardă controlul ar crește.
În același timp, Anthropic afirmă că o astfel de evoluție ar putea aduce beneficii majore, inclusiv pentru știință și sănătate, dar tocmai potențialul ridicat face ca riscurile să fie mai greu de gestionat.
În evaluarea companiei, industria este „mult mai aproape” de acest prag decât se estima inițial. De aici și recomandarea ca firmele de tehnologie să ia în calcul:
Într-un interviu pentru CNN, Jack Clark a folosit o metaforă pentru a descrie lipsa instrumentelor de control:
„Când mă uit la mașina pe care o conduc, nu văd decât pedala de accelerație. Nu am pedală de frână, iar cu siguranță, la un moment dat în viitor, s-ar putea să ne dorim această opțiune.”
Contextul complet al argumentației este detaliat pe blogul companiei, în materialul despre „recursive self-improvement”, publicat de Anthropic: blogul.
Recomandate
Anthropic cere o pauză globală în dezvoltarea „AI de frontieră” , susținând că tehnologia se apropie de un prag în care ar putea scăpa de sub control, potrivit Futurism . Compania spune că modelele sale din familia Claude ar putea evolua spre „auto-îmbunătățire recursivă” (capacitatea unui sistem de a se îmbunătăți singur), un scenariu ipotetic care ar crește riscul ca sisteme foarte puternice să acționeze în afara intereselor umane. Într-o postare amplă pe blog publicată joi, Anthropic afirmă că nu s-a ajuns încă la acest punct, dar avertizează că momentul „ar putea veni mai repede decât sunt pregătite majoritatea instituțiilor”. Compania pledează pentru posibilitatea de a încetini sau opri temporar dezvoltarea celor mai avansate modele, astfel încât „structurile societale” și cercetarea privind „alinierea” (adică metodele prin care comportamentul unui model este făcut compatibil cu obiectivele și valorile umane) să țină pasul cu progresul tehnologic. O pauză globală, greu de aplicat și de verificat Anthropic admite că o încetinire „semnificativă” ar necesita un acord între mai multe laboratoare bine finanțate, din mai multe țări, care să se oprească „în aceleași condiții” — un aranjament pe care compania îl descrie ca dificil de impus. În text este invocată și problema verificării: „antrenările” (rulările de instruire a modelelor) ar fi mult mai ușor de ascuns decât infrastructura militară clasică. Miza competitivă: cine ar câștiga dintr-o frână trasă acum Materialul notează că apelul la pauză vine într-un moment favorabil pentru Anthropic: în ultimele luni, compania ar fi depășit OpenAI și ar fi ajuns „cel mai valoros” startup de AI, la o evaluare de 1 trilion de dolari (aprox. 4,6 trilioane lei). În același timp, modelele sale sunt descrise ca fiind, în percepția generală, cele mai bune din domeniu, mai ales la sarcini de programare — ceea ce ar însemna că o încetinire a industriei „i-ar cimenta dominația”, dacă ar avea loc acum. Nu toată lumea acceptă însă argumentația companiei. Criticul de AI Gary Marcus califică postarea drept un „bait and switch” (o tactică prin care promiți un lucru, dar livrezi altceva), susținând că Anthropic încearcă să inducă teamă, deși ar fi demonstrat în esență „doar programare mai rapidă”, sub control uman. „Un instrument de programare mai rapid probabil nu va sfârși lumea”, a scris Marcus, citat de publicație. Contextul de credibilitate: „siguranță” vs. utilizări militare și de securitate Futurism plasează apelul la pauză în contextul unei imagini publice pe care Anthropic ar fi cultivat-o de ani buni — aceea de actor „etic” și prudent. În același timp, articolul amintește mai multe episoade care ar submina această poziționare: o dispută cu Pentagonul legată de riscul folosirii AI în armament autonom și supraveghere în masă, precum și informația apărută ulterior că Claude ar fi fost utilizat pentru a ajuta la selectarea țintelor de lovire în Iran. În plus, este menționat că, pe fondul conflictului cu armata, Anthropic ar fi renunțat la un angajament de siguranță: să oprească antrenarea unui sistem AI dacă nu poate garanta existența unor „balustrade” (măsuri de protecție) adecvate. Profesorul Steven Murdoch (University College London) este citat spunând că definiția companiei despre siguranța AI ar fi „îngustă”, invocând o relatare a Financial Times potrivit căreia Anthropic ar ajuta Agenția Națională de Securitate a SUA (NSA) să folosească modelul Mythos pentru operațiuni de război cibernetic împotriva unor potențiali adversari precum China și Iran. Murdoch a făcut declarația pentru The Guardian, conform articolului. Ce urmează Indiferent dacă o pauză globală este realistă, Anthropic spune că va continua demersurile: în lunile următoare, compania intenționează să organizeze discuții cu factori de decizie, cercetători, societatea civilă și alte companii de AI, axate pe întrebări legate de „auto-îmbunătățirea recursivă” și pe opțiuni de coordonare. Anthropic afirmă că va publica rezultatele acestor conversații. [...]
OpenAI, Google DeepMind, Microsoft AI și Anthropic cer controale obligatorii la vânzarea de ADN sintetic , avertizând că progresul rapid al inteligenței artificiale poate reduce barierele pentru obținerea de informații și materiale care ar putea fi folosite la dezvoltarea de arme biologice, potrivit G4Media . Într-o scrisoare adresată Congresului SUA , liderii acestor companii solicită reglementări urgente pentru achiziția de ADN sintetic, inclusiv verificarea identității clienților și controale obligatorii asupra comenzilor. Miza, în logica semnatarilor, este închiderea unui „gol” de reglementare: în prezent, verificările sunt aplicate fragmentat, voluntar, fără un cadru legal unitar. ADN-ul sintetic – material genetic creat în laborator, disponibil în unele cazuri prin comenzi online – este folosit pe scară largă în cercetarea biomedicală, inclusiv pentru vaccinuri și terapii, dar și pentru metode noi de stocare a datelor digitale. În același timp, experții citați avertizează că aceleași instrumente ar putea fi folosite pentru a recrea sau modifica agenți patogeni periculoși dacă ajung la actori rău intenționați. Ce propun companiile și de ce contează operațional Industria AI cere introducerea unor cerințe obligatorii, cu efect direct asupra modului în care s-ar face vânzarea și urmărirea comenzilor de ADN sintetic: verificări obligatorii ale comenzilor; verificarea identității cumpărătorilor; păstrarea unor evidențe detaliate, pentru a permite investigarea activităților suspecte. Reprezentanții companiilor susțin că aceste măsuri ar fi printre cele mai eficiente și mai puțin costisitoare modalități de reducere a riscurilor de biosecuritate. AI și „bariera” către informații sensibile Potrivit materialului, riscul nu este complet nou, însă dezvoltarea accelerată a AI schimbă semnificativ profilul de amenințare: unele modele avansate pot furniza deja răspunsuri „la nivel de expert” în domenii precum virologia, inclusiv despre proceduri complexe de laborator. Consecința invocată este că accesul la informații sensibile devine mai ușor pentru persoane fără pregătire de specialitate. Îngrijorări similare au fost exprimate și de cercetători de la universități precum Oxford, Stanford și Johns Hopkins, care avertizează că accesul necontrolat la baze de date biologice și utilizarea AI în cercetare ar putea facilita proiectarea sau modificarea unor agenți patogeni periculoși. Printre soluțiile discutate se află mecanisme de verificare a utilizatorilor și sisteme de monitorizare pentru detectarea utilizărilor abuzive. Europa: discuții pentru un cadru comun, dar fără lege unitară La nivelul Uniunii Europene, tema este inclusă în discuțiile privind viitorul Act pentru Biotehnologie, prezentat de Comisia Europeană în 2025. Documentul tratează ADN-ul și ARN-ul sintetic drept tehnologii sensibile din perspectiva biosecurității și propune un cadru comun pentru verificarea clienților și raportarea comenzilor suspecte. În prezent, nu există o legislație unitară la nivelul UE care să reglementeze direct acest domeniu, iar dezbaterea se poartă pe fondul extinderii rapide a AI și al eforturilor autorităților de a anticipa riscuri emergente. În această logică, biosecuritatea este indicată tot mai des ca posibil „următor domeniu major de reglementare” în era AI. [...]
Sam Altman cere Congresului SUA să evite aprobarea guvernamentală înaintea lansării noilor modele AI , o poziție care ar putea influența direct ritmul de inovare și costurile de conformare pentru întreaga industrie, în condițiile în care OpenAI se pregătește „în secret” de listarea la bursă, potrivit HotNews , care citează Reuters. Miza este una de reglementare: Altman se va opune propunerilor care ar obliga dezvoltatorii să obțină aprobarea guvernului american înainte de a lansa către public noi modele de inteligență artificială. OpenAI a transmis, într-un comunicat, că demersul face parte dintr-un efort de a influența modul în care va fi reglementată tehnologia. Ce alternativă propune OpenAI: mai multă testare, nu „aprobare înainte de lansare” În vizita sa la Washington, Altman urmează să le ceară parlamentarilor să crească finanțarea pentru testarea inteligenței artificiale în cadrul Departamentului Comerțului al SUA. Instituția colaborează deja cu companii precum OpenAI și Anthropic pentru testarea modelelor, iar OpenAI vrea extinderea inițiativei. Compania susține că programul ar trebui să includă și cercetători cu expertiză în domenii precum securitatea cibernetică, armele biologice și securitatea națională, între altele. De ce contează acum: presiune pe profitabilitate și pe calendarul lansărilor Potrivit Reuters, vizita lui Altman are loc într-un moment „critic” pentru OpenAI și pentru industrie. Publicația notează că OpenAI se pregătește să depună confidențial o cerere de listare la bursă, în timp ce rivalul Anthropic (dezvoltatorul modelului Claude) a depus deja o solicitare similară. În acest context, cerințele guvernului american ar putea afecta profiturile dacă încetinesc lansarea noilor modele. În plus, companiile ar putea fi obligate să își modifice produsele pentru a răspunde cerințelor de securitate. Întâlniri la Congres și reacția Casei Albe Altman avea programate miercuri întâlniri cu membri ai Congresului, inclusiv cu președintele Camerei Reprezentanților, Mike Johnson. Administrația de la Casa Albă nu a răspuns solicitărilor de a comenta eventuale întrevederi, potrivit aceleiași surse. Sursa secundară: Reuters . [...]
Anthropic își pregătește IPO-ul cu Morgan Stanley și Goldman Sachs, dar miza reală este factura de infrastructură dezvăluită indirect: un acord de calcul cu SpaceX de 1,25 miliarde de dolari pe lună (aprox. 5,8 miliarde lei), potrivit The Next Web . Alegerea băncilor și calendarul vizat (octombrie) conturează o listare care ar putea deveni una dintre cele mai mari din tehnologie, însă costurile recurente pentru capacitate de calcul ridică întrebări despre marje și riscuri operaționale înainte de intrarea pe bursă. Anthropic a selectat Morgan Stanley și Goldman Sachs pentru a conduce oferta publică inițială (IPO), cu JPMorgan Chase implicată în tranzacție, după ce compania a depus confidențial documentele pentru listare. Conform informațiilor citate de publicație dintr-un material Bloomberg , echipa de bănci ar putea fi extinsă, iar parametrii ofertei se pot modifica. Contractul SpaceX: 325.000 de cipuri Nvidia și 1,25 miliarde dolari pe lună Detaliul cu cel mai mare impact economic nu vine din comunicările Anthropic, ci din documentația de listare a SpaceX (S-1), care arată că SpaceX furnizează către Anthropic capacitate de calcul pentru inteligență artificială, inclusiv aproximativ 325.000 de cipuri Nvidia, la un cost de 1,25 miliarde de dolari pe lună (aprox. 5,8 miliarde lei). Acordul se întinde până în mai 2029 și poate fi reziliat de oricare dintre părți cu un preaviz de 90 de zile, după o perioadă inițială de trei luni. Publicația notează că această relație face din SpaceX simultan furnizor pentru Anthropic, competitor (prin chatbotul Grok) și, în același timp, candidat la propria listare. La nivel anualizat, contractul ar echivala cu 15 miliarde de dolari (aprox. 69 miliarde lei) doar pentru calcul, ceea ce pune în perspectivă dimensiunea dependenței de infrastructură și presiunea pe profitabilitate. Ce poate deveni „material” în prospectul de listare The Next Web subliniază că, odată ce documentul S-1 al Anthropic va fi public, compania ar trebui să prezinte acest acord ca o relație relevantă pentru investitori, în contextul suprapunerii competitive dintre părți. În practică, astfel de aranjamente sunt urmărite atent pentru riscuri de continuitate a serviciului, putere de negociere și potențiale conflicte de interese. În paralel, Anthropic intră într-o „aglomerare” de listări mari în tehnologie, cu SpaceX și OpenAI menționate ca alte nume care se pregătesc pentru piața publică, ceea ce poate intensifica competiția pentru capital și poate influența evaluările. Context: creștere accelerată, dar și un risc de reglementare Pe lângă componenta de infrastructură, un alt element de risc menționat este desemnarea de către Pentagon a Anthropic ca risc pe lanțul de aprovizionare , după ce compania ar fi refuzat acces nerestricționat la modele pentru zona militară; Anthropic a spus că situația ar putea pune în pericol miliarde de dolari în venituri. Modul în care acest risc va fi descris și cuantificat în documentația de listare este prezentat ca un punct sensibil pentru investitorii de pe piețele publice. În acest cadru, IPO-ul Anthropic devine mai mult decât o simplă alegere de bănci: este un test despre cât de mult sunt dispuși investitorii să plătească pentru creștere în AI atunci când costul de bază — calculul — poate ajunge la niveluri de ordinul zecilor de miliarde de dolari anual. [...]
BYD a negat public informațiile despre un presupus robot umanoid intern, inclusiv un plan de a instala 20.000 de unități în 2026 , după ce în spațiul online au circulat detalii despre un proiect „codificat Yao Shun Yu”, potrivit IT Home . Pentru companie, miza este una operațională și de credibilitate: infirmarea unor cifre și etape de testare care ar putea crea așteptări nerealiste privind ritmul de industrializare a roboților umanoizi. Informațiile negate au fost verificate de un jurnalist care a cerut un punct de vedere BYD, iar compania a transmis că mai multe afirmații „nu sunt adevărate”, inclusiv cele legate de numele de cod, testarea în fabrici și volumul de utilizare internă. Ce anume infirmă BYD Compania spune că sunt neadevărate următoarele informații vehiculate online: că robotul umanoid dezvoltat intern ar avea numele de cod „Yao Shun Yu”; că „a șaptea generație” de prototip ar fi testată în condiții reale în fabricile din Shenzhen și Changsha; că aproximativ 150 de unități ar fi deja „la muncă”, cu un obiectiv de 20.000 de roboți folosiți intern în cursul acestui an; că ar exista un plan de implementare internă a 20.000 de unități în 2026. Context: BYD confirmă direcția, nu și calendarul sau volumele Deși respinge detaliile concrete apărute online, BYD a confirmat anterior, prin declarații ale vicepreședintelui executiv al grupului, Li Ke , că lucrează la dezvoltarea de roboți umanoizi. Într-un interviu citat de publicație, Li Ke a susținut că avantajul competitiv în robotică va ține de capacitatea de producție și de integrarea software–hardware, iar competențele de inteligență artificială din industria auto ar avea o bază comună cu cele necesare roboților. În aceeași intervenție, Li Ke a indicat și o posibilă direcție comercială: dacă roboții ar ajunge să fie potriviți pentru utilizarea în gospodării, BYD ar putea folosi rețeaua de dealeri pentru vânzare. Totodată, a menționat ideea unei „platforme deschise”, în care BYD ar putea dezvolta roboți atât pe cont propriu, cât și în parteneriat cu alte companii. De ce contează Negarea explicită a unor ținte precum „20.000 de unități” și a unor etape de testare în fabrici sugerează că, cel puțin în acest moment, BYD nu validează public un calendar și o scală de implementare pentru roboții umanoizi. Pentru piață și pentru lanțurile de aprovizionare, diferența dintre „dezvoltăm” și „implementăm zeci de mii” este esențială: implică niveluri complet diferite de investiții, capacitate de producție și maturitate tehnologică. Ce urmează nu este precizat în material: BYD nu oferă, în informațiile citate, un termen sau un volum alternativ, limitându-se la infirmarea zvonurilor și la reafirmarea direcției generale de dezvoltare. [...]
Orange România a câștigat un contract de 10,69 milioane de lei fără TVA pentru infrastructură de procesare a datelor la Universitatea Tehnică din Cluj-Napoca , o achiziție care alimentează operațional proiectul HUB Român de Inteligență Artificială (HRIA), finanțat din fonduri europene, potrivit Profit . Contractul a fost atribuit în urma unei licitații organizate de Universitatea Tehnică din Cluj-Napoca pentru achiziționarea de infrastructură de procesare a datelor, iar Orange România este furnizorul desemnat. Publicația notează că la procedură s-a înscris și Blade Solutions. De ce contează: capacitate de calcul pentru HRIA, pe bani europeni Achiziția este parte a proiectului HUB Român de Inteligență Artificială – HRIA, finanțat prin Fondul European de Dezvoltare Regională (FEDR) . În termeni practici, contractul mută proiectul din zona de planificare în zona de implementare, prin livrarea infrastructurii necesare procesării datelor – o componentă critică pentru activități de cercetare și dezvoltare în inteligență artificială. Context: Orange, după integrarea operațiunilor din România În același context, Profit amintește că cifra de afaceri consolidată a Orange România a ajuns la 1,455 miliarde de euro în 2025 (aprox. 7,28 miliarde de lei), în creștere cu 2,9% față de anul anterior, pe fondul integrării Orange România și Orange România Communications. În materialul citat nu sunt prezentate detalii tehnice despre configurația infrastructurii sau calendarul de livrare, astfel că impactul exact asupra capacității de calcul a hubului nu poate fi evaluat din informațiile disponibile. [...]
