Consiliul Europei cere reguli obligatorii pentru armele autonome și avertizează că inteligența artificială ajunge să influențeze tot mai mult decizii militare critice, inclusiv identificarea și atacarea țintelor, potrivit Digi24. Miza este una de reglementare: un tratat internațional care să limiteze folosirea sistemelor capabile să selecteze și să lovească ținte fără intervenție umană.

Comisarul Consiliului Europei pentru Drepturile Omului, Michael O’Flaherty, cere adoptarea „urgentă” a unui instrument juridic obligatoriu care să reglementeze utilizarea armelor autonome. Apelul vine înaintea celei de-a Șaptea Conferințe de Revizuire a Convenției privind anumite arme convenționale (CCW), organizată de ONU între 16 și 20 noiembrie, la Geneva.

„Fiinţele umane trebuie să păstreze un control efectiv asupra folosirii forţei şi să rămână responsabile pentru aceasta.”

De ce se cere „dezarmarea” AI: riscul pierderii controlului uman

O’Flaherty susține că AI este deja integrată în operațiuni militare, de la colectarea de informații și identificarea țintelor până la alegerea sistemelor de armament și deciziile privind folosirea forței. În acest context, avertizează că unele sisteme autonome, odată activate, pot selecta și ataca ținte fără intervenție umană.

Oficialul atrage atenția și asupra limitărilor tehnice și operaționale ale acestor sisteme: pot fi „opace și imprevizibile”, pot folosi date perimate sau părtinitoare și pot produce rezultate greu de anticipat. În plus, viteza operațiunilor militare asistate de AI poate reduce timpul disponibil pentru verificarea țintelor sau pentru evaluarea legalității unui atac.

Implicații de reglementare: termene, responsabilitate și rolul companiilor

Comisarul cere guvernelor să sprijine negocieri „urgente”, cu termene precise, pentru stabilirea unui instrument internațional obligatoriu privind armele autonome și, separat, să avanseze reglementarea altor utilizări militare ale AI. În lipsa unor reguli, el avertizează că „deciziile care determină cine trăieşte şi cine moare” ajung să fie condiționate tot mai mult de mașini.

O’Flaherty mai spune că riscul nu se limitează la câmpul de luptă: tehnologiile dezvoltate pentru scopuri militare pot fi folosite și în zone civile (de exemplu, controlul frontierelor sau supravegherea manifestațiilor) ori pot ajunge la actori non-statali. În același timp, AI poate fi utilizată pentru manipularea mediului informațional și perturbarea infrastructurilor civile.

În final, oficialul indică și responsabilitatea sectorului privat: companiile care proiectează, dezvoltă sau furnizează sisteme militare bazate pe inteligență artificială ar trebui, la rândul lor, să respecte drepturile omului.