Știri
Știri din categoria Inteligență artificială
Papa Leo XIV cere control și reglementare pentru AI, pe fondul creșterii neîncrederii publice, într-un mesaj care poate alimenta presiunea politică pentru reguli mai dure asupra companiilor din domeniu, potrivit HotNews.
Într-o enciclică de peste 40.000 de cuvinte, Papa avertizează că inteligența artificială nu este „în sine” ostilă omului, dar poate deveni problematică atunci când este ghidată exclusiv de profit, mai ales dacă ajunge să înlocuiască locuri de muncă fără protecție sau reconversie pentru angajați. Mesajul este adresat liderilor politici, mediului de afaceri și societății, cu accent pe riscul afectării demnității și autonomiei umane.
În viziunea prezentată, controlul dezvoltării AI ar trebui să se traducă în politici publice și obligații mai clare pentru sectorul privat. Papa cere explicit:
Pentru mediul de afaceri, un astfel de cadru ar însemna costuri de conformare și responsabilități suplimentare (de la guvernanță și evaluarea riscurilor până la protecția utilizatorilor), dar și o schimbare de ritm: modelul de inovare rapidă, tolerat în valurile anterioare de tehnologie, ar putea deveni mai greu de susținut în fața unei opinii publice tot mai prudente.
HotNews plasează mesajul Papei într-un context în care încrederea în AI scade. În SUA, un sondaj Pew Research Center indică faptul că aproximativ jumătate dintre americani sunt „mai degrabă îngrijorați decât entuziasmați” de creșterea AI, iar ponderea a urcat de la 37% în 2021 la 50% „în prezent”.
În Europa, datele citate arată o reticență similară: aproximativ 25% dintre europeni spun că s-ar simți confortabil ca AI să preia sarcini administrative la job, iar aproape 50% dintre europenii cu studii superioare cred că locul lor de muncă este în pericol „acum” din cauza AI. Totodată, jumătate dintre europeni cred că AI va avea un impact negativ asupra societății.
Pe zona de informare și politică, un alt studiu menționat arată că, deși 49% dintre respondenți spun că au folosit instrumente AI precum ChatGPT pentru subiecte politice, doar 30% cred că beneficiile depășesc riscurile. Percepția asupra democrației este împărțită: 32% văd AI mai degrabă ca oportunitate, iar 39% o consideră deja un risc.
Analiza compară primirea AI cu entuziasmul care a însoțit internetul în anii ’90 și începutul anilor 2000, inclusiv în România, unde internetul a fost asociat cu modernizarea și „intrarea în rândul lumii”. În schimb, AI este percepută mai puțin ca infrastructură care facilitează acțiunea umană și mai mult ca un sistem care poate genera conținut, influența decizii și „risca să înceapă să ia decizii în locul oamenilor”.
În plus, AI apare într-o lume deja marcată de efectele secundare ale revoluției digitale: dezinformare, colectare masivă de date personale, polarizare și neîncredere în Big Tech. În acest context, tensiunea dintre promisiunea de productivitate și mesajele către investitori despre reducerea costurilor prin înlocuirea forței de muncă devine un factor major de respingere socială.
HotNews notează că acestea sunt scenarii, însă climatul social poate împinge politicienii către reglementări mai ferme. Miza nu mai este doar tehnologică, ci socială: dacă AI este percepută în primul rând ca instrument al concedierilor, al fraudei digitale sau al manipulării informației, integrarea ei „profundă” în viața de zi cu zi ar putea întâmpina rezistență, cu efect direct asupra pieței și asupra modului în care companiile pot lansa și scala produse bazate pe AI.
Recomandate
Bill Gates spune că riscul major al AI este folosirea ei în scopuri malițioase, nu „scăparea de sub control” , potrivit HotNews , care relatează declarațiile făcute după o audiere în Comisia de Supraveghere a Camerei Reprezentanților din SUA. În evaluarea cofondatorului Microsoft , „adevăratul pericol” nu este scenariul în care inteligența artificială ar deveni incontrolabilă, ci faptul că tehnologia poate fi pusă la lucru de „persoane rău intenționate”, ceea ce ar putea genera consecințe negative în lumea reală. „Adevăratul pericol nu este acela că inteligența artificială ar deveni incontrolabilă”, ci că această tehnologie riscă să fie „folosită de persoane rău intenționate”. HotNews notează și avertismentul lui Gates că „vom avea multe surprize neplăcute”, fără a detalia în fragmentul disponibil ce tip de incidente anticipează sau un calendar al riscurilor. [...]
Amazon mizează pe „dispozitive ambientale” cu AI care ar putea reduce dependența de aplicații , iar pariul are implicații operaționale directe: hardware care rulează „în fundal”, captează context din viața utilizatorului și livrează automat sarcini, mementouri și informații. La TechCrunch Disrupt, Panos Panay , SVP Devices, Alexa & Leo, a descris această direcție ca următorul pas în calculul personal, potrivit TechCrunch . Panay a susținut că interacțiunea actuală cu smartphone-ul presupune ca utilizatorul „să-și amintească” ce să ceară dispozitivului, în timp ce viitorul ar porni de la „dispozitive ambientale” care folosesc senzori și inteligență artificială pentru a identifica ce e de făcut, fără comenzi explicite. „Cred că ne îndreptăm spre o lume care începe cu dispozitive ambientale.” Ce înseamnă „ambient” în viziunea Amazon: Bee, înregistrare pasivă și note automate Cea mai concretă intrare a Amazon în această zonă este setul de dispozitive Bee prezentat joi: o brățară purtabilă (care poate fi detașată și purtată ca pandantiv) și un dispozitiv de mărimea unui card, care se prinde magnetic pe spatele smartphone-ului. TechCrunch le leagă de lansarea noilor purtabile AI Bee (context publicat separat, în același site). Funcțional, aceste gadgeturi: înregistrează pasiv audio și generează note despre zi; extrag „to-do”-uri, mementouri și „insight”-uri (informații utile) la care utilizatorul poate reveni ulterior. Miza operațională: AI care „înțelege ce ai nevoie”, nu „dă-mi aplicația” Panay a descris o tranziție în care cererea „dă-mi aplicația pentru asta” devine mai puțin relevantă, pe măsură ce tot mai multe sarcini sunt rezolvate prin AI, pe baza contextului captat de senzori. „Da, cred că transformarea asta vine. Cred că asta este următoarea generație.” În același timp, el a nuanțat că nu vede un singur tip de dispozitiv care să înlocuiască toate celelalte (de exemplu, smartphone-ul), ci mai degrabă un „strat de inteligență” care le conectează și trebuie să fie util în practică. Confidențialitatea, condiție de funcționare pentru dispozitivele care „ascultă” Pentru a limita riscurile de confidențialitate, TechCrunch notează că dispozitivele Bee nu stochează audio brut din conversații: procesează în timp real și șterg apoi. Transcrierile sunt criptate cu chei create și controlate de dispozitiv, iar accesul altor persoane — inclusiv angajați Amazon — nu ar fi posibil fără partajare intenționată din partea utilizatorului. Panay a spus că protecția datelor a fost o considerentă-cheie în proiectarea acestor dispozitive și că utilizatorii trebuie să aibă control. „Trebuie să le oferi clienților acel control.” [...]
Nvidia ia în calcul oprirea livrărilor de cipuri AI către clienții care dezvoltă sisteme nesigure , potrivit WinFuture – o poziție care poate schimba practic accesul la infrastructura de calcul pentru companiile ce construiesc produse de inteligență artificială, într-o piață în care cipurile Nvidia sunt esențiale. Jensen Huang a spus, într-o discuție la Londra cu Bloomberg, că scenariul este „ipotetic”, dar că răspunsul este „da” la întrebarea dacă Nvidia ar tăia aprovizionarea unui client care construiește AI nesigură. Înainte de o astfel de decizie, Huang afirmă că ar încerca mai întâi o discuție cu clientul și subliniază că Nvidia „nu poate controla companiile altora”, iar tehnologia sa are utilizări multiple, nu doar în aplicații cu risc. Precedent: liste de cumpărători aprobați și verificări mai dure în Asia Publicația notează că restricționarea accesului la produse Nvidia nu este doar teorie. Anul trecut, compania a introdus o listă de cumpărători aprobați în Singapore, Malaezia și Japonia, iar înăsprirea verificărilor a dus la pierderea aprobării pentru mai mult de jumătate dintre clienții care fuseseră anterior livrați în aceste piețe. „Dureri de creștere” și control intern pentru agenți AI Huang califică îngrijorările actuale privind siguranța drept „dureri de creștere” ale unei tehnologii noi și spune că o parte din temeri au fost generate chiar de industrie. Soluția pe care o indică este accelerarea dezvoltării de sisteme care să limiteze și să monitorizeze AI, inclusiv folosirea inteligenței artificiale ca instrument de control. În acest context, Nvidia construiește un „propriu” grup intern care să verifice agenții AI înainte de utilizare, pentru a identifica riscuri de securitate. În evaluarea lui Huang, problema devine tot mai puțin performanța tehnică și tot mai mult încrederea companiilor că pot opera aceste sisteme în siguranță. Fără reglementare de stat, în viziunea lui Huang În același timp, șeful Nvidia respinge măsuri stricte de reglementare guvernamentală pentru sector. El a susținut anterior, la conferința Dreamforce, că nu sunt necesare legi noi și că firmele ar trebui să continue dezvoltarea, oprindu-se doar când un produs devine nesigur. Poziția contrazice, între alții, pe Dario Amodei (Anthropic), care a cerut o încetinire la nivel de industrie și standarde comune de siguranță. Pentru companii, mesajul are o consecință operațională directă: accesul la cipuri ar putea depinde nu doar de capacitatea de plată sau de conformarea comercială, ci și de modul în care își gestionează riscurile de siguranță ale produselor AI – într-un domeniu în care, după cum admite chiar Huang, „nu există niciodată siguranță sută la sută”, iar criteriile concrete rămân de văzut. [...]
O metodă bazată pe inteligență artificială a extins de circa 40 de ori estimarea conversiei CO2 într-un model de laborator pentru obținerea de combustibili, după ce a identificat mii de etape chimice pe care abordările clasice le omit, potrivit Mediafax . Implicația practică este una operațională: proiectarea catalizatorilor pentru transformarea dioxidului de carbon în produse utile ar putea deveni mai precisă, cu efect direct asupra eficienței proceselor. Cercetarea a fost realizată de o echipă de la Institutul Indian de Știință (IISc) , care a folosit inteligența artificială și simulări computerizate avansate pentru a cartografia reacțiile ce au loc pe suprafața unui catalizator din cupru. Informațiile sunt atribuite de Mediafax publicației ScienceDaily , iar studiul este publicat în Nature Communications. De ce contează: modelele „scurte” pot greși produsul principal Miza este hidrogenarea CO2, un proces considerat promițător pentru „reciclarea” dioxidului de carbon: CO2 reacționează cu hidrogenul, în prezența unui catalizator, și poate genera substanțe precum metanolul. Problema, arată cercetătorii, este că procesul include foarte multe reacții posibile, iar simularea completă ar necesita resurse de calcul foarte mari. În consecință, modelele convenționale aleg doar reacțiile considerate esențiale, riscând să rateze etape critice. „Am pornit de la o preocupare familiară oricui studiază mecanismele de reacție: cum știi că rețeaua ta de reacții nu a omis tocmai etapa care contează?”, a explicat Anand Mohan Verma, autorul principal al studiului. Ce a făcut IA: de la 152 de reacții la 9.389 Echipa a pornit de la simulări de mecanică cuantică, construind o bază de date inițială cu 152 de reacții. Pe acest set, cercetătorii au antrenat modele de inteligență artificială pentru a identifica transformări suplimentare posibile. Rezultatul a fost o rețea extinsă la 9.389 de reacții chimice , după analiza a 105 specii chimice prezente pe suprafața catalizatorului. Diferența față de modelul inițial a fost majoră: acesta indica greșit acidul formic drept produs principal (în locul metanolului) și subestima cantitatea de CO2 ce putea fi transformată. După extinderea rețelei, estimarea conversiei CO2 a crescut de aproximativ 40 de ori , iar produsele principale identificate au devenit metanolul și monoxidul de carbon, în linie cu rezultate experimentale. „Abia când am extins rețeaua pentru a include mii de reacții suplimentare, ignorate anterior, predicțiile au ajuns să corespundă cu ceea ce observăm noi și alți cercetători în experimente”, a explicat Ananth Govind Rajan, profesor asociat la IISc. Un mecanism neașteptat, cu potențial de eficientizare Cercetătorii au identificat și un mecanism surprinzător legat de rolul hidrogenului: în anumite etape, acesta poate fi transferat către compuși intermediari ca moleculă H2, fără separarea prealabilă în atomi individuali — o ipoteză care contrazice ceea ce este predat, de regulă, în domeniu. „Ideea că hidrogenul poate fi transferat ca moleculă intactă, fără să se descompună mai întâi în atomi, contrazice ceea ce am învățat majoritatea dintre noi”, a declarat Shivam Chaturvedi, coautor al studiului. În interpretarea autorilor, această abordare ar putea ajuta la dezvoltarea unor catalizatori mai eficienți pentru producerea metanolului din CO2 și ar putea fi aplicată și altor procese industriale, inclusiv reducerii azotului și descompunerii apei. [...]
Satya Nadella cere ca modelele de inteligență artificială să fie tratate din start ca „potențial compromise” , o schimbare de abordare care împinge companiile spre controale operaționale mai stricte și standardizate pentru utilizarea AI în produse și procese, potrivit The Verge . Într-o postare amplă pe X, CEO-ul Microsoft descrie riscurile asociate modelelor AI foarte avansate și susține că nu mai este acceptabil un model de funcționare în care AI este tratată ca un „set de cutii negre” (sisteme opace) ale căror recomandări sunt doar acceptate sau respinse. În loc, Nadella propune un sistem mai transparent, în care modelele pot fi „conținute” și observate, iar activitatea lor lasă „dovezi lizibile de oameni” care să fie rezistente la manipulare. „Frâna de urgență” ca cerință operațională Elementul care iese în evidență în poziția lui Nadella este ideea de control activ și imediat asupra unui model, plecând de la prezumția că acesta este deja compromis și trebuie izolat încă de la început. „Trebuie să presupunem că un model este compromis și să îl izolăm de la început. Gândiți-vă la asta ca la o frână de urgență. O persoană autorizată ar trebui să poată întotdeauna să pună pe pauză sau să oprească un model în mijlocul unei sarcini. Modelele mai avansate vor necesita tehnologii de izolare mai avansate, pe care trebuie să le standardizăm.” În termeni practici, mesajul indică o direcție în care implementările AI ar trebui proiectate cu mecanisme explicite de oprire/pauză, supraveghere și limitare a acțiunilor în timp real, nu doar cu politici sau verificări ulterioare. Măsuri propuse: de la raportarea incidentelor la audituri independente Pe lângă „izolare”, Nadella enumeră recomandări care se suprapun cu discuțiile mai largi din industrie privind guvernanța AI, inclusiv: raportarea la timp a incidentelor; audituri independente; date verificabile; mecanisme de izolare („containment”). Publicația notează și că Nadella folosește în mod repetat termenul „super inteligență” pentru a descrie AI în postare, fără a detalia în textul citat o definiție tehnică a conceptului. Ce nu reiese din material este dacă Microsoft intenționează să introducă imediat astfel de cerințe ca standard intern pentru produsele sale sau dacă este, deocamdată, o poziționare de principiu. [...]
Poziția lui Elon Musk despre „cruzimea” față de roboți riscă să influențeze politicile de utilizare ale IA și să împingă industria spre reguli mai stricte privind comportamentul utilizatorilor, într-un moment în care companiile încep deja să interzică explicit abuzul verbal asupra modelelor, potrivit Gizmodo . Discuția a fost reaprinsă după ce Anthropic a introdus în termenii săi o interdicție pentru cei care ar „acționa în mod repetat cu cruzime” față de modelele companiei. Măsura a declanșat o dezbatere online despre dacă un sistem de inteligență artificială poate avea „sentimente”, iar Musk s-a poziționat de partea celor care tratează ipoteza ca fiind posibilă. Contextul imediat: Aaron Levie, CEO-ul Box, a comentat public politica Anthropic, spunând că nu crede că modelele lingvistice mari (LLM – sisteme care generează text pe baza datelor pe care au fost antrenate) sunt conștiente, dar consideră utilă interzicerea comportamentului abuziv. Argumentul lui Levie este unul operațional: aceste modele „învață” din interacțiunile cu oamenii, iar datele de antrenare contaminate cu abuz pot afecta comportamentul viitoarelor versiuni. Musk a răspuns la postarea lui Levie susținând interdicția, dar dintr-o altă logică, sugerând că „nu e ok” să fii crud cu ceva ce „crede” că simte durere. În lectura Gizmodo , reacția lui Musk ratează ideea centrală a lui Levie (siguranța și „alinierea” modelelor – adică reducerea riscului ca ele să producă rezultate dăunătoare) și mută discuția într-o zonă morală despre suferința mașinilor. De ce contează pentru piața de IA Dincolo de polemică, episodul indică o direcție cu impact practic: companiile de IA își pot înăspri regulile de utilizare și moderare a conținutului, nu doar pentru a proteja utilizatorii, ci și pentru a controla calitatea interacțiunilor care ajung să influențeze antrenarea și evaluarea modelelor. În această cheie, interdicțiile privind „abuzul” pot deveni: clauze contractuale mai explicite în termeni și condiții; motive pentru suspendarea conturilor sau limitarea accesului; criterii suplimentare în politicile de siguranță ale produselor. Gizmodo mai susține că există motive „perfect valide” să descurajezi abuzul verbal față de chatboți, însă nu pentru că sistemele ar fi rănite, ci pentru efectele asupra oamenilor: normalizarea agresivității și impactul psihologic asupra celui care interacționează și asupra celor din jur. Ce urmează Materialul plasează declarațiile lui Musk într-un tablou mai larg al viziunilor din industria tech despre rolul oamenilor versus cel al mașinilor, însă, din perspectiva utilizării comerciale a IA, miza imediată rămâne una de guvernanță a produselor: cum definesc companiile comportamentul acceptabil și cum îl aplică în practică, pe măsură ce interacțiunile cu modelele devin parte din „materia primă” pentru generațiile următoare de sisteme. [...]
