Știri
Știri din categoria Inteligență artificială
Papa Leon cere „dezarmarea” inteligenței artificiale și atacă logica puterii din spatele ei, într-o enciclică ce poate întări presiunea publică pentru reguli mai stricte asupra tehnologiilor avansate, potrivit Antena 3. Documentul, intitulat „Magnifica Humanitas”, este dedicat „protejării persoanei umane în epoca inteligenței artificiale” și consolidează poziția Suveranului Pontif ca sceptic față de direcția în care se dezvoltă AI.
Enciclica include un pasaj din „Stăpânul Inelelor: Întoarcerea Regelui”, de J.R.R. Tolkien, atribuit în mod uzual personajului Gandalf, deși Papa Leon nu menționează explicit numele personajului. În text, citatul este folosit ca argument pentru responsabilitate și pentru ideea că oamenii nu pot abdica de la controlul moral și social asupra tehnologiei, chiar într-o perioadă de schimbări accelerate.
„Treaba noastră nu este să cunoaștem toate mișcările acestei lumi, ci să facem ce ne stă în putință ca să ajutăm evul acesta în care ne este dat să trăim, smulgând din rădăcini răul pe câmpurile pe care le cunoaștem, astfel ca aceia care vor trăi după noi să aibă o țară curată pe care să o poată însămânța.”
În enciclică, Papa Leon avertizează asupra „dominației tot mai mari a unei paradigme tehnocratice”, care ar putea reduce „creația la un obiect al exploatării” și oamenii la „simple rotițe într-un sistem orientat către o eficiență tot mai mare”. În această logică, apelul la „dezarmarea” inteligenței artificiale funcționează ca o cerere de limitare a capacităților și utilizărilor care scapă controlului uman, nu ca o critică abstractă a tehnologiei.
Papa compară ascensiunea AI cu revoluția industrială (mijlocul secolului al XVIII-lea – începutul secolului XX) și îl invocă pe Papa Leon al XIII-lea, care, în enciclica din 1891, sublinia drepturile și demnitatea muncitorilor într-o perioadă de transformări tehnologice și expansiune capitalistă. Miza, în lectura actuală, este ca noile tehnologii să nu producă o concentrare și mai mare a puterii și bogăției.
Antena 3 notează că Wired și Ars Technica au speculat că referința la Tolkien nu este întâmplătoare, în contextul în care „Stăpânul Inelelor” a fost „apropriat” prin interpretări controversate de miliardari din industria tehnologiei, precum Peter Thiel și Elon Musk, interpretări criticate de fanii seriei. Wired a mers mai departe, sugerând că Papa Leon ar putea ironiza subtil această apropriere, mai ales că a denunțat „cultura puterii” care alimentează ascensiunea rapidă a inteligenței artificiale.
În același context, publicația amintește că Thiel și-a numit compania de analiză de date Palantir Technologies, după „palantír”-ul folosit pentru spionaj în saga lui Tolkien, iar Musk a promovat în trecut o interpretare politizată a trilogiei.
„Magnifica Humanitas” este prezentată drept una dintre temele majore ale primului an de pontificat al lui Leon și un text care întărește poziționarea Vaticanului în dezbaterea despre limitele AI. Impactul concret în politici publice nu este detaliat în material, însă mesajul adaugă greutate unei discuții deja dominante în reglementare: cum sunt controlate sistemele avansate și cine răspunde pentru efectele lor sociale.
Recomandate
Amazon mizează pe „dispozitive ambientale” cu AI care ar putea reduce dependența de aplicații , iar pariul are implicații operaționale directe: hardware care rulează „în fundal”, captează context din viața utilizatorului și livrează automat sarcini, mementouri și informații. La TechCrunch Disrupt, Panos Panay , SVP Devices, Alexa & Leo, a descris această direcție ca următorul pas în calculul personal, potrivit TechCrunch . Panay a susținut că interacțiunea actuală cu smartphone-ul presupune ca utilizatorul „să-și amintească” ce să ceară dispozitivului, în timp ce viitorul ar porni de la „dispozitive ambientale” care folosesc senzori și inteligență artificială pentru a identifica ce e de făcut, fără comenzi explicite. „Cred că ne îndreptăm spre o lume care începe cu dispozitive ambientale.” Ce înseamnă „ambient” în viziunea Amazon: Bee, înregistrare pasivă și note automate Cea mai concretă intrare a Amazon în această zonă este setul de dispozitive Bee prezentat joi: o brățară purtabilă (care poate fi detașată și purtată ca pandantiv) și un dispozitiv de mărimea unui card, care se prinde magnetic pe spatele smartphone-ului. TechCrunch le leagă de lansarea noilor purtabile AI Bee (context publicat separat, în același site). Funcțional, aceste gadgeturi: înregistrează pasiv audio și generează note despre zi; extrag „to-do”-uri, mementouri și „insight”-uri (informații utile) la care utilizatorul poate reveni ulterior. Miza operațională: AI care „înțelege ce ai nevoie”, nu „dă-mi aplicația” Panay a descris o tranziție în care cererea „dă-mi aplicația pentru asta” devine mai puțin relevantă, pe măsură ce tot mai multe sarcini sunt rezolvate prin AI, pe baza contextului captat de senzori. „Da, cred că transformarea asta vine. Cred că asta este următoarea generație.” În același timp, el a nuanțat că nu vede un singur tip de dispozitiv care să înlocuiască toate celelalte (de exemplu, smartphone-ul), ci mai degrabă un „strat de inteligență” care le conectează și trebuie să fie util în practică. Confidențialitatea, condiție de funcționare pentru dispozitivele care „ascultă” Pentru a limita riscurile de confidențialitate, TechCrunch notează că dispozitivele Bee nu stochează audio brut din conversații: procesează în timp real și șterg apoi. Transcrierile sunt criptate cu chei create și controlate de dispozitiv, iar accesul altor persoane — inclusiv angajați Amazon — nu ar fi posibil fără partajare intenționată din partea utilizatorului. Panay a spus că protecția datelor a fost o considerentă-cheie în proiectarea acestor dispozitive și că utilizatorii trebuie să aibă control. „Trebuie să le oferi clienților acel control.” [...]
Nvidia ia în calcul oprirea livrărilor de cipuri AI către clienții care dezvoltă sisteme nesigure , potrivit WinFuture – o poziție care poate schimba practic accesul la infrastructura de calcul pentru companiile ce construiesc produse de inteligență artificială, într-o piață în care cipurile Nvidia sunt esențiale. Jensen Huang a spus, într-o discuție la Londra cu Bloomberg, că scenariul este „ipotetic”, dar că răspunsul este „da” la întrebarea dacă Nvidia ar tăia aprovizionarea unui client care construiește AI nesigură. Înainte de o astfel de decizie, Huang afirmă că ar încerca mai întâi o discuție cu clientul și subliniază că Nvidia „nu poate controla companiile altora”, iar tehnologia sa are utilizări multiple, nu doar în aplicații cu risc. Precedent: liste de cumpărători aprobați și verificări mai dure în Asia Publicația notează că restricționarea accesului la produse Nvidia nu este doar teorie. Anul trecut, compania a introdus o listă de cumpărători aprobați în Singapore, Malaezia și Japonia, iar înăsprirea verificărilor a dus la pierderea aprobării pentru mai mult de jumătate dintre clienții care fuseseră anterior livrați în aceste piețe. „Dureri de creștere” și control intern pentru agenți AI Huang califică îngrijorările actuale privind siguranța drept „dureri de creștere” ale unei tehnologii noi și spune că o parte din temeri au fost generate chiar de industrie. Soluția pe care o indică este accelerarea dezvoltării de sisteme care să limiteze și să monitorizeze AI, inclusiv folosirea inteligenței artificiale ca instrument de control. În acest context, Nvidia construiește un „propriu” grup intern care să verifice agenții AI înainte de utilizare, pentru a identifica riscuri de securitate. În evaluarea lui Huang, problema devine tot mai puțin performanța tehnică și tot mai mult încrederea companiilor că pot opera aceste sisteme în siguranță. Fără reglementare de stat, în viziunea lui Huang În același timp, șeful Nvidia respinge măsuri stricte de reglementare guvernamentală pentru sector. El a susținut anterior, la conferința Dreamforce, că nu sunt necesare legi noi și că firmele ar trebui să continue dezvoltarea, oprindu-se doar când un produs devine nesigur. Poziția contrazice, între alții, pe Dario Amodei (Anthropic), care a cerut o încetinire la nivel de industrie și standarde comune de siguranță. Pentru companii, mesajul are o consecință operațională directă: accesul la cipuri ar putea depinde nu doar de capacitatea de plată sau de conformarea comercială, ci și de modul în care își gestionează riscurile de siguranță ale produselor AI – într-un domeniu în care, după cum admite chiar Huang, „nu există niciodată siguranță sută la sută”, iar criteriile concrete rămân de văzut. [...]
O metodă bazată pe inteligență artificială a extins de circa 40 de ori estimarea conversiei CO2 într-un model de laborator pentru obținerea de combustibili, după ce a identificat mii de etape chimice pe care abordările clasice le omit, potrivit Mediafax . Implicația practică este una operațională: proiectarea catalizatorilor pentru transformarea dioxidului de carbon în produse utile ar putea deveni mai precisă, cu efect direct asupra eficienței proceselor. Cercetarea a fost realizată de o echipă de la Institutul Indian de Știință (IISc) , care a folosit inteligența artificială și simulări computerizate avansate pentru a cartografia reacțiile ce au loc pe suprafața unui catalizator din cupru. Informațiile sunt atribuite de Mediafax publicației ScienceDaily , iar studiul este publicat în Nature Communications. De ce contează: modelele „scurte” pot greși produsul principal Miza este hidrogenarea CO2, un proces considerat promițător pentru „reciclarea” dioxidului de carbon: CO2 reacționează cu hidrogenul, în prezența unui catalizator, și poate genera substanțe precum metanolul. Problema, arată cercetătorii, este că procesul include foarte multe reacții posibile, iar simularea completă ar necesita resurse de calcul foarte mari. În consecință, modelele convenționale aleg doar reacțiile considerate esențiale, riscând să rateze etape critice. „Am pornit de la o preocupare familiară oricui studiază mecanismele de reacție: cum știi că rețeaua ta de reacții nu a omis tocmai etapa care contează?”, a explicat Anand Mohan Verma, autorul principal al studiului. Ce a făcut IA: de la 152 de reacții la 9.389 Echipa a pornit de la simulări de mecanică cuantică, construind o bază de date inițială cu 152 de reacții. Pe acest set, cercetătorii au antrenat modele de inteligență artificială pentru a identifica transformări suplimentare posibile. Rezultatul a fost o rețea extinsă la 9.389 de reacții chimice , după analiza a 105 specii chimice prezente pe suprafața catalizatorului. Diferența față de modelul inițial a fost majoră: acesta indica greșit acidul formic drept produs principal (în locul metanolului) și subestima cantitatea de CO2 ce putea fi transformată. După extinderea rețelei, estimarea conversiei CO2 a crescut de aproximativ 40 de ori , iar produsele principale identificate au devenit metanolul și monoxidul de carbon, în linie cu rezultate experimentale. „Abia când am extins rețeaua pentru a include mii de reacții suplimentare, ignorate anterior, predicțiile au ajuns să corespundă cu ceea ce observăm noi și alți cercetători în experimente”, a explicat Ananth Govind Rajan, profesor asociat la IISc. Un mecanism neașteptat, cu potențial de eficientizare Cercetătorii au identificat și un mecanism surprinzător legat de rolul hidrogenului: în anumite etape, acesta poate fi transferat către compuși intermediari ca moleculă H2, fără separarea prealabilă în atomi individuali — o ipoteză care contrazice ceea ce este predat, de regulă, în domeniu. „Ideea că hidrogenul poate fi transferat ca moleculă intactă, fără să se descompună mai întâi în atomi, contrazice ceea ce am învățat majoritatea dintre noi”, a declarat Shivam Chaturvedi, coautor al studiului. În interpretarea autorilor, această abordare ar putea ajuta la dezvoltarea unor catalizatori mai eficienți pentru producerea metanolului din CO2 și ar putea fi aplicată și altor procese industriale, inclusiv reducerii azotului și descompunerii apei. [...]
Bill Gates spune că riscul major al AI este folosirea ei în scopuri malițioase, nu „scăparea de sub control” , potrivit HotNews , care relatează declarațiile făcute după o audiere în Comisia de Supraveghere a Camerei Reprezentanților din SUA. În evaluarea cofondatorului Microsoft , „adevăratul pericol” nu este scenariul în care inteligența artificială ar deveni incontrolabilă, ci faptul că tehnologia poate fi pusă la lucru de „persoane rău intenționate”, ceea ce ar putea genera consecințe negative în lumea reală. „Adevăratul pericol nu este acela că inteligența artificială ar deveni incontrolabilă”, ci că această tehnologie riscă să fie „folosită de persoane rău intenționate”. HotNews notează și avertismentul lui Gates că „vom avea multe surprize neplăcute”, fără a detalia în fragmentul disponibil ce tip de incidente anticipează sau un calendar al riscurilor. [...]
Satya Nadella cere ca modelele de inteligență artificială să fie tratate din start ca „potențial compromise” , o schimbare de abordare care împinge companiile spre controale operaționale mai stricte și standardizate pentru utilizarea AI în produse și procese, potrivit The Verge . Într-o postare amplă pe X, CEO-ul Microsoft descrie riscurile asociate modelelor AI foarte avansate și susține că nu mai este acceptabil un model de funcționare în care AI este tratată ca un „set de cutii negre” (sisteme opace) ale căror recomandări sunt doar acceptate sau respinse. În loc, Nadella propune un sistem mai transparent, în care modelele pot fi „conținute” și observate, iar activitatea lor lasă „dovezi lizibile de oameni” care să fie rezistente la manipulare. „Frâna de urgență” ca cerință operațională Elementul care iese în evidență în poziția lui Nadella este ideea de control activ și imediat asupra unui model, plecând de la prezumția că acesta este deja compromis și trebuie izolat încă de la început. „Trebuie să presupunem că un model este compromis și să îl izolăm de la început. Gândiți-vă la asta ca la o frână de urgență. O persoană autorizată ar trebui să poată întotdeauna să pună pe pauză sau să oprească un model în mijlocul unei sarcini. Modelele mai avansate vor necesita tehnologii de izolare mai avansate, pe care trebuie să le standardizăm.” În termeni practici, mesajul indică o direcție în care implementările AI ar trebui proiectate cu mecanisme explicite de oprire/pauză, supraveghere și limitare a acțiunilor în timp real, nu doar cu politici sau verificări ulterioare. Măsuri propuse: de la raportarea incidentelor la audituri independente Pe lângă „izolare”, Nadella enumeră recomandări care se suprapun cu discuțiile mai largi din industrie privind guvernanța AI, inclusiv: raportarea la timp a incidentelor; audituri independente; date verificabile; mecanisme de izolare („containment”). Publicația notează și că Nadella folosește în mod repetat termenul „super inteligență” pentru a descrie AI în postare, fără a detalia în textul citat o definiție tehnică a conceptului. Ce nu reiese din material este dacă Microsoft intenționează să introducă imediat astfel de cerințe ca standard intern pentru produsele sale sau dacă este, deocamdată, o poziționare de principiu. [...]
Poziția lui Elon Musk despre „cruzimea” față de roboți riscă să influențeze politicile de utilizare ale IA și să împingă industria spre reguli mai stricte privind comportamentul utilizatorilor, într-un moment în care companiile încep deja să interzică explicit abuzul verbal asupra modelelor, potrivit Gizmodo . Discuția a fost reaprinsă după ce Anthropic a introdus în termenii săi o interdicție pentru cei care ar „acționa în mod repetat cu cruzime” față de modelele companiei. Măsura a declanșat o dezbatere online despre dacă un sistem de inteligență artificială poate avea „sentimente”, iar Musk s-a poziționat de partea celor care tratează ipoteza ca fiind posibilă. Contextul imediat: Aaron Levie, CEO-ul Box, a comentat public politica Anthropic, spunând că nu crede că modelele lingvistice mari (LLM – sisteme care generează text pe baza datelor pe care au fost antrenate) sunt conștiente, dar consideră utilă interzicerea comportamentului abuziv. Argumentul lui Levie este unul operațional: aceste modele „învață” din interacțiunile cu oamenii, iar datele de antrenare contaminate cu abuz pot afecta comportamentul viitoarelor versiuni. Musk a răspuns la postarea lui Levie susținând interdicția, dar dintr-o altă logică, sugerând că „nu e ok” să fii crud cu ceva ce „crede” că simte durere. În lectura Gizmodo , reacția lui Musk ratează ideea centrală a lui Levie (siguranța și „alinierea” modelelor – adică reducerea riscului ca ele să producă rezultate dăunătoare) și mută discuția într-o zonă morală despre suferința mașinilor. De ce contează pentru piața de IA Dincolo de polemică, episodul indică o direcție cu impact practic: companiile de IA își pot înăspri regulile de utilizare și moderare a conținutului, nu doar pentru a proteja utilizatorii, ci și pentru a controla calitatea interacțiunilor care ajung să influențeze antrenarea și evaluarea modelelor. În această cheie, interdicțiile privind „abuzul” pot deveni: clauze contractuale mai explicite în termeni și condiții; motive pentru suspendarea conturilor sau limitarea accesului; criterii suplimentare în politicile de siguranță ale produselor. Gizmodo mai susține că există motive „perfect valide” să descurajezi abuzul verbal față de chatboți, însă nu pentru că sistemele ar fi rănite, ci pentru efectele asupra oamenilor: normalizarea agresivității și impactul psihologic asupra celui care interacționează și asupra celor din jur. Ce urmează Materialul plasează declarațiile lui Musk într-un tablou mai larg al viziunilor din industria tech despre rolul oamenilor versus cel al mașinilor, însă, din perspectiva utilizării comerciale a IA, miza imediată rămâne una de guvernanță a produselor: cum definesc companiile comportamentul acceptabil și cum îl aplică în practică, pe măsură ce interacțiunile cu modelele devin parte din „materia primă” pentru generațiile următoare de sisteme. [...]
