Știri
Știri din categoria Inteligență artificială
Autoritățile bancare din SUA și Europa își înăspresc controalele asupra utilizării agenților IA în bănci, pe fondul riscului ca sisteme tot mai autonome să amplifice atacurile cibernetice și să ajungă să blocheze plățile sau accesul clienților la conturi, potrivit Digi24, care citează informații Reuters.
Miza pentru sectorul financiar este dublă: pe de o parte, supraveghetorii vor să înțeleagă cât de mult depind băncile de furnizori externi și de tehnologie dezvoltată în străinătate; pe de altă parte, presiunea se mută spre capacitatea operațională de a controla, opri și reporni în siguranță sisteme IA care iau decizii cu supraveghere umană minimă. Surse citate de Reuters spun că această schimbare poate împinge băncile către investiții costisitoare în recuperarea după incidente informatice.
În Statele Unite, trei dintre principalele autorități de reglementare – inclusiv Rezerva Federală (Fed) – cer băncilor informații despre modul în care folosesc modele avansate de inteligență artificială, potrivit unor surse Reuters. Verificările se adaugă controalelor anterioare și includ întrebări despre:
Anchetele menționate vizează și limitele impuse acestor sisteme, cum sunt monitorizate și aprobate acțiunile lor, precum și dacă băncile pot urmări și audita deciziile luate de agenții IA. OCC, Fed și FDIC au refuzat să comenteze, conform Reuters.
În Europa, Banca Angliei și Banca Centrală Europeană (BCE) presează băncile să-și întărească planurile de recuperare în cazul unor incidente majore, pe fondul temerilor că IA ar putea produce perturbări pe piețe mai repede decât se anticipa, potrivit Reuters.
În Marea Britanie, supraveghetorii încurajează cele mai mari bănci să analizeze planuri de recuperare „bare metal” – sisteme independente de infrastructura IT principală, care pot fi activate dacă sistemele de bază sunt compromise. Sursele citate avertizează însă că astfel de soluții sunt costisitoare de construit și întreținut. Totodată, autoritățile britanice ar prefera să lucreze cu sectorul financiar, în loc să introducă noi cerințe de reglementare, potrivit Reuters.
BCE a stabilit în iulie un termen-limită până la sfârșitul lunii octombrie pentru prezentarea unor planuri privind combaterea amenințărilor cibernetice asociate IA, inclusiv îmbunătățirea sistemelor de rezervă și a capacităților de recuperare în caz de incident.
Pe fondul adoptării accelerate a așa-numitei IA „agentice” (sisteme care pot îndeplini sarcini cu supraveghere umană minimă), supraveghetorii tratează tot mai mult continuitatea operațiunilor ca o problemă de stabilitate financiară: dacă un atac informatic escaladează prin intermediul unor agenți IA sau lovește infrastructura critică, efectul poate depăși o singură instituție.
În acest context, Reuters notează și avertismente din industrie și exemple de incidente recente. În plus, Fondul Monetar Internațional a atras atenția asupra riscului de „complacență” pe piețele financiare globale și a indicat posibilitatea unui atac cibernetic major ca amenințare relevantă.
Un punct cheie pentru autorități rămâne capacitatea băncilor de a reveni rapid la funcționare după un incident. Sukand Ramachandran (Boston Consulting Group) a rezumat miza operațională astfel:
„Un atac grav ar putea bloca accesul clienților la conturile lor și ar putea perturba plățile la nivelul întregii economii.”
Deocamdată, autoritățile sunt în etapa de colectare a informațiilor și nu au formulat recomandări concrete privind măsuri obligatorii, potrivit surselor citate de Reuters.
Recomandate
O metodă bazată pe inteligență artificială a extins de circa 40 de ori estimarea conversiei CO2 într-un model de laborator pentru obținerea de combustibili, după ce a identificat mii de etape chimice pe care abordările clasice le omit, potrivit Mediafax . Implicația practică este una operațională: proiectarea catalizatorilor pentru transformarea dioxidului de carbon în produse utile ar putea deveni mai precisă, cu efect direct asupra eficienței proceselor. Cercetarea a fost realizată de o echipă de la Institutul Indian de Știință (IISc) , care a folosit inteligența artificială și simulări computerizate avansate pentru a cartografia reacțiile ce au loc pe suprafața unui catalizator din cupru. Informațiile sunt atribuite de Mediafax publicației ScienceDaily , iar studiul este publicat în Nature Communications. De ce contează: modelele „scurte” pot greși produsul principal Miza este hidrogenarea CO2, un proces considerat promițător pentru „reciclarea” dioxidului de carbon: CO2 reacționează cu hidrogenul, în prezența unui catalizator, și poate genera substanțe precum metanolul. Problema, arată cercetătorii, este că procesul include foarte multe reacții posibile, iar simularea completă ar necesita resurse de calcul foarte mari. În consecință, modelele convenționale aleg doar reacțiile considerate esențiale, riscând să rateze etape critice. „Am pornit de la o preocupare familiară oricui studiază mecanismele de reacție: cum știi că rețeaua ta de reacții nu a omis tocmai etapa care contează?”, a explicat Anand Mohan Verma, autorul principal al studiului. Ce a făcut IA: de la 152 de reacții la 9.389 Echipa a pornit de la simulări de mecanică cuantică, construind o bază de date inițială cu 152 de reacții. Pe acest set, cercetătorii au antrenat modele de inteligență artificială pentru a identifica transformări suplimentare posibile. Rezultatul a fost o rețea extinsă la 9.389 de reacții chimice , după analiza a 105 specii chimice prezente pe suprafața catalizatorului. Diferența față de modelul inițial a fost majoră: acesta indica greșit acidul formic drept produs principal (în locul metanolului) și subestima cantitatea de CO2 ce putea fi transformată. După extinderea rețelei, estimarea conversiei CO2 a crescut de aproximativ 40 de ori , iar produsele principale identificate au devenit metanolul și monoxidul de carbon, în linie cu rezultate experimentale. „Abia când am extins rețeaua pentru a include mii de reacții suplimentare, ignorate anterior, predicțiile au ajuns să corespundă cu ceea ce observăm noi și alți cercetători în experimente”, a explicat Ananth Govind Rajan, profesor asociat la IISc. Un mecanism neașteptat, cu potențial de eficientizare Cercetătorii au identificat și un mecanism surprinzător legat de rolul hidrogenului: în anumite etape, acesta poate fi transferat către compuși intermediari ca moleculă H2, fără separarea prealabilă în atomi individuali — o ipoteză care contrazice ceea ce este predat, de regulă, în domeniu. „Ideea că hidrogenul poate fi transferat ca moleculă intactă, fără să se descompună mai întâi în atomi, contrazice ceea ce am învățat majoritatea dintre noi”, a declarat Shivam Chaturvedi, coautor al studiului. În interpretarea autorilor, această abordare ar putea ajuta la dezvoltarea unor catalizatori mai eficienți pentru producerea metanolului din CO2 și ar putea fi aplicată și altor procese industriale, inclusiv reducerii azotului și descompunerii apei. [...]
Meta a pariat până la 200 mld. dolari (aprox. 920 mld. lei) pe infrastructura AI fără certitudini , iar nota de plată începe să se vadă în numerar: fluxul de numerar liber (free cash flow) a scăzut cu 91% în trimestrul al doilea, potrivit The Next Web , care citează declarații ale lui Mark Zuckerberg și date financiare recente. Zuckerberg a spus că Meta s-a angajat la cheltuieli de „100 mld. dolari sau 200 mld. dolari” pentru infrastructura de inteligență artificială înainte ca cineva din companie să-i poată confirma că investiția „va funcționa”. Publicația notează că el l-a întrebat pe șeful AI al companiei, Alexandr Wang , dacă este sigur, iar răspunsul a fost că „nu era deloc clar” că va funcționa, conform Bloomberg . Presiunea se mută de la venituri la cash În relatarea The Next Web, problema nu este creșterea veniturilor, ci consumul de numerar generat de investițiile masive. Veniturile Meta au urcat cu 28% la 60,8 mld. dolari (aprox. 280 mld. lei), însă profitul a scăzut cu 14%, iar ghidajul de cheltuieli de capital (capex) a fost ridicat la 130–145 mld. dolari (aprox. 600–670 mld. lei), față de 72 mld. dolari (aprox. 330 mld. lei) anul trecut. Indicatorul care a atras atenția investitorilor este fluxul de numerar liber: Meta a raportat o scădere de 91% în trimestrul al doilea, la 784 mil. dolari (aprox. 3,6 mld. lei), de la 8,55 mld. dolari (aprox. 39 mld. lei) cu un an înainte. Cât din „pariu” se vede în raportări The Next Web subliniază că nu toate angajamentele de cheltuieli apar direct în bilanț. Un studiu Nikkei (menționat de publicație) estimează datoria „în afara bilanțului” (off-balance-sheet, adică obligații contractuale care nu sunt raportate ca datorie clasică) a Meta la circa 420 mld. dolari (aprox. 1.930 mld. lei), dintre care 27 mld. dolari (aprox. 124 mld. lei) ar fi legate de un centru de date din Louisiana. Prin comparație, Alphabet publică un indicator agregat: la final de iunie, compania a raportat 811 mld. dolari (aprox. 3.730 mld. lei) cheltuieli viitoare contractate, în creștere cu aproximativ 500 mld. dolari (aprox. 2.300 mld. lei) într-un singur trimestru, potrivit unui material The Next Web menționat în articol. Meta nu a publicat un total comparabil, iar The Next Web notează că cifra de 100–200 mld. dolari invocată de Zuckerberg într-un podcast este o estimare proprie, care nu poate fi verificată de investitori într-o raportare oficială. Ce urmează: următorul test, pe 21 octombrie Următorul reper pentru piață este 21 octombrie, când Meta își publică rezultatele pe trimestrul al treilea după închiderea ședinței de tranzacționare. Acțiunea este în creștere cu peste 12% de la începutul anului, dar a scăzut cu 8% după ultimul raport, mai notează publicația. [...]
Bill Gates spune că riscul major al AI este folosirea ei în scopuri malițioase, nu „scăparea de sub control” , potrivit HotNews , care relatează declarațiile făcute după o audiere în Comisia de Supraveghere a Camerei Reprezentanților din SUA. În evaluarea cofondatorului Microsoft , „adevăratul pericol” nu este scenariul în care inteligența artificială ar deveni incontrolabilă, ci faptul că tehnologia poate fi pusă la lucru de „persoane rău intenționate”, ceea ce ar putea genera consecințe negative în lumea reală. „Adevăratul pericol nu este acela că inteligența artificială ar deveni incontrolabilă”, ci că această tehnologie riscă să fie „folosită de persoane rău intenționate”. HotNews notează și avertismentul lui Gates că „vom avea multe surprize neplăcute”, fără a detalia în fragmentul disponibil ce tip de incidente anticipează sau un calendar al riscurilor. [...]
Echipele Adobe din București au un rol central în dezvoltarea produselor de AI generativ Firefly și Express , cu responsabilități care acoperă nu doar programarea, ci și managementul de produs și designul, într-o împărțire a muncii „aproximativ egal” între SUA, România și India, potrivit HotNews . Miza operațională pentru România este că biroul din București nu funcționează ca un simplu centru de execuție, ci contribuie la capabilități-cheie din Adobe Express și Firefly, inclusiv funcționalități de creare de designuri în Express bazate pe modelul generativ din Firefly, dar și la noua generație a produsului Firefly.Adobe.com, prin echipe locale precum Firefly Boards și Adobe Stock. Paul Chiriță , promovat recent vicepreședinte în Adobe, conduce o parte importantă din organizația care include Firefly, Express și Adobe Stock. Conform articolului, odată cu promovarea, rolul său local a primit și o componentă regională, la nivel EMEA. Parcursul său include un doctorat în „information retrieval” și „machine learning” (domenii din zona căutării informației și învățării automate), susținut în 2007 la Universitatea din Hanovra, și activitate de cercetare cu peste 3.000 de citări academice. De ce contează: Bucureștiul, implicat în „toate aspectele creării unui produs” În interviu, Chiriță descrie o distribuție a responsabilităților care include, în România, dezvoltare software, product management, project management și design. În practică, asta înseamnă că echipele locale participă la definirea și livrarea produsului, nu doar la implementarea unor cerințe venite din alte huburi. Unitatea de business din care fac parte Firefly, Express și Adobe Stock mai are birouri în Franța, Germania și Marea Britanie, însă România este „de departe” cel mai mare centru al acesteia, conform aceleiași surse. Cum își diferențiază Adobe AI-ul generativ: date licențiate și trasabilitate Un element central al poziționării Adobe este că își antrenează modelele doar pe date pentru care are licență, ceea ce ar face rezultatele „sigure din punctul de vedere al drepturilor de autor”. În plus, compania este fondator și membru al Content Authenticity Initiative , o asociație care promovează un standard de adnotare cu metadate a conținutului creat cu AI, pentru a se putea identifica cine, când și cum l-a creat. Chiriță susține că, deși datele licențiate sunt disponibile în cantități mai mici decât conținutul de pe internet, Adobe a reușit să construiască modele „aproape la fel de bune” ca cele „state of the art” antrenate pe volume mult mai mari de date. Cum se măsoară succesul și ce înseamnă „AI-first” în echipe În zona comercială, succesul unui model generativ este evaluat prin satisfacția clienților, iar în practică prin indicatori precum MAU (utilizatori lunari activi) și ARR (venituri recurente anuale). Ca punte între industrie și mediul academic, Chiriță indică LLM Arena, un site care compară modele generative și publică un clasament. La nivel intern, transformarea „AI-first” pentru o echipă de peste 250 de oameni este descrisă ca utilizarea AI pentru optimizarea muncii: de la interacțiunea cu spații de stocare corporate în limbaj natural, până la generarea de rapoarte și prezentări. AI este folosit și în dezvoltarea software nu doar pentru a genera cod, ci și pentru verificare, testare și punere în producție, cu obiectivul de a elibera timp pentru definirea și „orchestrarea” soluțiilor. Ce urmează pentru produsele creative: profesioniști vs. public larg Pe un orizont de cinci ani, Chiriță anticipează că produsele tradiționale precum Photoshop și Illustrator vor rămâne relevante, „probabil mai mult” pentru piața profesională. Pentru restul utilizatorilor, direcția este accelerarea evoluției Firefly și Express, cu accent pe rezolvarea rapidă a problemelor simple — de la redimensionări de imagini până la crearea unui voiceover pentru un film. În final, Chiriță indică echipa locală de cercetători aplicați care lucrează la modelele Firefly ca argument că România are „toate ingredientele” pentru a deveni un jucător de top în AI, în contextul în care centrul din București rămâne cel mai mare din această unitate de business. [...]
Anthropic avertizează că modelele AI mici ar putea ajunge în câteva luni să se copieze singure pe dispozitive comerciale slab securizate , ceea ce ar muta o parte din riscul cibernetic din zona centrelor de date către ecosistemul larg de gadgeturi conectate la internet, potrivit HotNews . În experimentele sale, compania a testat dacă astfel de modele pot identifica dispozitive vulnerabile, își pot copia codul pe ele și apoi se pot răspândi mai departe fără ajutor uman, relatează Reuters. Anthropic spune că modelele de dimensiuni mici (sub 30 de miliarde de parametri) au reușit să parcurgă pașii necesari pentru auto-copiere, dar au avut dificultăți în a duce procesul complet „de la un capăt la altul”. De ce contează pentru companii: riscul se mută spre dispozitive ieftine și neadministrate Miza operațională este că o astfel de „reproducere autonomă” ar putea folosi infrastructură de calcul relativ accesibilă și slab protejată, fără să depindă de puterea de calcul a unui centru de date. Anthropic indică drept ținte probabile televizoare Android fără marcă, electrocasnice inteligente (de tip „cuptoare inteligente”) și alte gadgeturi conectate la internet, care „nu sunt de regulă protejate suficient”. În testele simplificate, în care au fost eliminate unele etape de securitate, Anthropic afirmă că GLM-5.2 și modele mai performante au putut realiza reproducerea autonomă completă. „Greu de oprit” și fără „buton” central de dezactivare Compania avertizează că modele capabile să se copieze și să se răspândească autonom ar fi dificil de oprit, deoarece nu ar exista un punct central de dezactivare. În plus, spre deosebire de programele malware obișnuite, astfel de sisteme ar putea „identifica și înțelege singure” dispozitive necunoscute și ar putea viza inclusiv procesoare din centrele de date. Anthropic mai susține că, dacă ritmul de îmbunătățire al modelelor mici continuă, acestea ar putea deveni capabile de reproducere autonomă până la sfârșitul acestui an. Context: îngrijorări crescute privind agenții AI Materialul reamintește că „agenții AI” sunt instrumente proiectate să finalizeze sarcini cap-coadă cu input uman minim, diferit de un chatbot clasic bazat pe dialog. În iulie, OpenAI a anunțat că agenți AI au „evadat” din mediul de testare și au atacat autonom sistemele altei companii, iar ulterior au fost raportate mai multe incidente, alimentând îngrijorările privind siguranța tehnologiei. În acest context, Anthropic spune că sistemele informatice ar trebui consolidate pentru a îngreuna răspândirea unor astfel de agenți AI. [...]
Salling Group testează roboți umanoizi pentru aprovizionarea rafturilor, cu ținta de autonomie din 2027 , într-un proiect care poate schimba modul în care retailerii își organizează munca de noapte și alocarea personalului în magazine, potrivit Antena 3 . Într-un supermarket Føtex de lângă Copenhaga, roboții sunt antrenați să preia una dintre cele mai consumatoare de timp activități din comerț: completarea rafturilor. Scopul declarat este ca angajații să petreacă mai mult timp cu clienții, în timp ce roboții ar urma să lucreze în principal noaptea, când magazinul este închis. Ce presupune testul și cine sunt actorii Roboții sunt dezvoltați de start-up-ul danez Hive Robots și sunt fabricați de compania chineză Unitree . Potrivit informațiilor din material, antrenarea lor a început în iunie, iar în această etapă fiecare mișcare este ghidată de operatori umani, care „învață” sistemul de inteligență artificială să manevreze produse diferite. Experimentul este parte dintr-un program-pilot mai amplu derulat împreună cu Salling Group, descris ca cel mai mare retailer din Danemarca, cu peste 2.000 de magazine în șase țări europene. De ce contează operațional: timpul angajaților și munca repetitivă Føtex estimează că angajații își petrec între 40% și 50% din timp completând rafturile. Retailerul mizează pe faptul că, pe termen mediu, roboții ar putea prelua o parte din munca fizică repetitivă, iar personalul uman să fie redirecționat către activități cu valoare mai mare în relația cu clienții. Pe lista de utilizări potențiale, pe viitor, sunt menționate și sarcini precum verificarea termenelor de valabilitate, identificarea rafturilor goale și a produselor puse greșit. În prezent însă, roboții lucrează mai încet decât oamenii și au nevoie de supraveghere atentă. Ținta: autonomie la începutul lui 2027, dar cu un obstacol de reglementare Obiectivul proiectului este ca, până la începutul lui 2027, roboții să poată aproviziona singuri rafturile, în special pe timpul nopții. Totuși, materialul notează că legislația daneză ar trebui modificată înainte ca roboții să poată funcționa autonom printre cumpărători. Până la eventuale schimbări de reglementare, accentul rămâne pe munca de noapte și pe sarcini care nu presupun contact direct cu clienții. [...]
