OpenAI stabilește cinci principii pentru dezvoltarea AGI - Asigurarea beneficiilor pentru întreaga umanitate și prevenirea concentrării puterii tehnologice

OpenAI își fixează ca obiectiv să împiedice concentrarea „puterii tehnologice” în mâinile câtorva actori și să ducă instrumente de tip AGI (inteligență artificială generală) către cât mai mulți oameni, potrivit unei postări semnate de CEO-ul Sam Altman și relatate de IT之家 . Mesajul conturează o direcție cu implicații de reglementare și guvernanță: deciziile-cheie despre AI ar trebui să fie luate prin procese „democratice” și pe baze de echitate, nu doar în interiorul laboratoarelor de AI. Altman susține că AI poate produce transformări mai mari decât cele aduse de motorul cu aburi sau electricitate, dar avertizează că acest rezultat „nu este inevitabil”. În viziunea lui, viitorul poate arăta fie ca o lume în care câteva companii care controlează „superinteligența” acumulează putere, fie ca una în care tehnologia este mai descentralizată și ajunge la public. Cele cinci principii enunțate de Altman OpenAI își leagă misiunea de ideea că AGI trebuie să „beneficieze întreaga umanitate” și formulează cinci principii: Democratizare : compania spune că va rezista scenariului în care tehnologia concentrează puterea la un număr mic de persoane/organizații. Nu e vorba doar de acces la utilizare, ci și de faptul că deciziile importante despre AI ar trebui stabilite prin proceduri democratice și principii de echitate, nu exclusiv de laboratoare. Împuternicire (empowerment) : AI ar trebui să ajute utilizatorii să-și atingă obiectivele și să realizeze sarcini tot mai valoroase. OpenAI afirmă că va oferi autonomie largă utilizatorilor, dar cu responsabilitatea de a construi și implementa AI astfel încât să minimizeze daunele (de la riscuri „catastrofale” la efecte locale și impact social „coroziv”). Prosperitate împărtășită : Altman spune că, pentru ca beneficiile să fie distribuite larg, guvernele ar putea avea nevoie să ia în calcul noi modele economice , iar industria să construiască infrastructură AI la scară mare și să dezvolte tehnologii care să reducă semnificativ costurile. Reziliență : OpenAI anticipează apariția de riscuri noi și spune că va colabora cu companii, guverne și societatea civilă, inclusiv pe teme precum biosecuritatea și securitatea cibernetică. Altman afirmă că niciun laborator nu poate asigura singur un „viitor bun” și dă exemplul modelelor suficient de puternice care ar putea facilita crearea de noi agenți patogeni, ceea ce ar necesita măsuri defensive la nivel de societate. Adaptabilitate : compania ar urma să-și ajusteze strategia pe măsură ce apar informații noi și să fie transparentă când își schimbă principiile operaționale. Altman indică posibilitatea unor compromisuri între „împuternicire” și „reziliență” în anumite perioade. Ce înseamnă, practic, pentru piață și autorități Dincolo de declarația de principii, mesajul introduce explicit ideea că guvernanța AI nu ar trebui să rămână exclusiv la nivelul companiilor care dezvoltă modelele. Accentul pus pe „democratizare”, pe colaborarea cu guverne și instituții internaționale și pe posibile „noi modele economice” sugerează o discuție mai amplă despre cum se distribuie accesul la capacități avansate de calcul și cine decide regulile de utilizare. Altman mai spune că OpenAI va continua strategia de „implementare iterativă” (lansări treptate), pentru ca societatea să se poată adapta gradual la fiecare nou nivel de capabilități, și că în anumite momente ar putea fi necesară coordonarea cu guverne, organisme internaționale și alte proiecte AGI înainte de a continua dezvoltarea, după rezolvarea problemelor serioase de aliniere, siguranță sau impact social. [...]