Po propadlih pogajanjih: "Roboti ubijalci so že med nami, države pa se bodo še naprej le pogovarjale"

Mednarodni odbor Rdečega križa (ICRC) in organizacije za človekove pravice opozarjajo, da bo kmalu prepozno, da bi "duha spravili nazaj v steklenico", saj razvoj avtonomnega orožja očitno prehiteva prizadevanja za njegovo regulacijo. Opozorilo prihaja po neuspešnih pogajanjih v Ženevi, kjer se več kot 120 državam ni uspelo dogovoriti o začetku priprave pravno zavezujoče mednarodne pogodbe za nadzor nad uporabo avtonomnega orožja. Dogovor, ki bi vodil v zavezujoča mednarodna pravila, je blokirala manjšina držav, med njimi Rusija, ZDA, Nemčija in Francija.
"Umetno inteligenco že začenjamo opažati na bojiščih in morda tudi že v oborožitvenih sistemih. Če tega ne bomo regulirali, bo duha veliko težje spraviti nazaj v steklenico," je po poročanju Guardiana opozorila Cordula Droege, direktorica za mednarodno pravo, gibanje in partnerstva pri Mednarodnem odboru Rdečega križa.
Avtonomno orožje so vojaški sistemi, ki delujejo brez neposrednega človeškega nadzora, pogosto z uporabo umetne inteligence. Zaradi hitrega razvoja umetne inteligence v zadnjih letih vojske in proizvajalci razvijajo vse naprednejša orožja in oborožitvene sisteme. Mednje spada uporaba umetne inteligence za oblikovanje seznamov tarč, kot je to počela izraelska vojska v Gazi, pa tudi uporaba polavtonomnih brezpilotnih letalnikov v vojni med Rusijo in Ukrajino. Pri slednjih lahko umetna inteligenca prevzame nadzor nad letalnikom v zadnji fazi približevanja tarči.
Predsednica Mednarodnega odbora Rdečega križa Mirjana Spoljaric Egger in generalni sekretar Združenih narodov António Guterres sta zato pozvala k sprejetju pravno zavezujočih mednarodnih pravil z jasnimi prepovedmi in omejitvami uporabe tovrstnega orožja. Rdeči križ se zavzema za prepoved uporabe avtonomnega orožja proti ljudem, zagotovitev predvidljivega delovanja oborožitvenih sistemov in omejitev njihove uporabe na vojaške cilje.
"Ne gre za prepoved vseh avtonomnih oborožitvenih sistemov, temveč za določitev meja v mednarodni pogodbi, ki jih nikoli ne bi smeli prestopiti," je poudarila Droege. "Zelo blizu smo temu, da te meje prestopimo. Zlasti odločanje strojev o napadih na ljudi bi moralo predstavljati moralno mejo, ki je ne smemo prestopiti."
Pogajanja propadla zaradi manjšine držav; med njimi Velika Britanija, Francija in Nemčija
Opozorila, kot rečeno, sledijo enotedenskim pogajanjem v okviru Konvencije ZN o nekaterih vrstah klasičnega orožja (CCW), ki so se v Ženevi po celonočnih razpravah končala brez dogovora o pravno zavezujoči pogodbi.
Države so se sicer dogovorile, da bodo države v naslednjih dveh letih določile, "katero orožje se lahko v skladu z mednarodnim humanitarnim pravom prepove in kateri sistemi ne bodo prepovedani, a jih bo mogoče regulirati", šele nato pa se bodo odločile, ali naj gre za mednarodno pogodbo in v kakšnem obsegu naj bo ta zavezujoča - če sploh.
Čeprav je velika večina držav podpirala začetek pogajanj za pripravo zavezujočega dokumenta, so morale zaradi zahteve po soglasju vseh 128 pogodbenic sprejeti precej šibkejši dogovor.
Na čelu držav, ki so nasprotovale pravno zavezujočemu dokumentu, je bila Rusija, ki je po navedbah diplomatov pogajanja namerno zavlačevala, je poročal Guardian. Tudi ZDA in nekatere druge vojaške sile, ki razvijajo orožje z umetno inteligenco, niso bile pripravljene podpreti zavezujočih pravil. Med njimi so bile po navedbah omenjenega medija Južna Koreja, Japonska, Turčija, Velika Britanija, Francija in Nemčija, ki so se zavzemale za nezavezujoč dogovor.
Več kot sto držav je medtem zahtevalo nova mednarodna pravila, saj po njihovem mnenju avtonomno orožje prinaša povsem nove nevarnosti.
"Roboti ubijalci so že med nami, države pa se bodo še naprej pogovarjale"
Kritiki opozarjajo, da so države zamudile pomembno priložnost. O nevarnostih avtonomnega orožja potekajo razprave že 13 let, velik del vsebine morebitne pogodbe pa je že usklajen, so poročali mediji. Zaradi zahteve po soglasju v okviru konvencije CCW sicer že 30 let niso sprejeli novih pravil za omejevanje orožja.
"Roboti ubijalci so že med nami. Države pa so se odločile, da zadostuje, če se bodo o tem pogovarjale še štirinajsto leto," je dejal predsednik organizacije Future of Life Institute Max Tegmark.
Za sprejetje zavezujoče pogodbe v enem letu se je posebej zavzemala skupina sedmih držav: Avstrija, Belgija, Brazilija, Irska, Mehika, Nova Zelandija in Panama.
"Ne govorimo o orožju prihodnosti. To orožje se že uporablja in se še naprej razvija. Pri oblikovanju pravil za njegovo regulacijo že zamujamo," je po navedbah Guardiana opozoril brazilski predstavnik.

Avtonomno orožje že ubija civiliste
Organizacije za človekove pravice opozarjajo, da bi nadaljnje odlašanje z regulacijo lahko omogočilo vojskam in zasebnim proizvajalcem orožja, da sami določajo pravila uporabe avtonomnih sistemov.
Ti so že povzročili civilne žrtve. Julija so v Zaporožju na jugovzhodu Ukrajine v napadu ruskega brezpilotnega letalnika, ki ga je usmerjal sistem umetne inteligence, umrli trije civilisti. Letalnik je poskušal zadeti bencinsko črpalko, ki je bila verjetno njegova predvidena tarča, vendar je namesto tega trčil v zid. Pri tem so se razleteli šrapneli, ki so ubili tri ljudi, je poročal Guardian.
V Gazi Izrael od začetka vojne uporablja umetno inteligenco za določanje tarč, kar mu omogoča, da sezname potencialnih ciljev oblikuje veliko hitreje, kot bi jih lahko ljudje.
V Iranu naj bi bil ameriški napad na osnovno šolo, v katerem je umrlo 156 civilistov, med njimi 120 šolark, posledica napačnih obveščevalnih podatkov, zbranih s sistemi umetne inteligence.
Anna Hehir, vodja področja upravljanja vojaške umetne inteligence pri organizaciji Future of Life Institute, opozarja, da bi lahko nadaljnje odlašanje s sprejetjem učinkovite mednarodne pogodbe privedlo do še več primerov množičnih civilnih žrtev.
Roji brezpilotnikov, ki bi sledili napačni usmeritvi
Posebej nevaren je razvoj tako imenovanih rojev avtonomnih brezpilotnih letalnikov, pri katerih bi na stotine ali tisoče naprav delovalo hkrati.
"Dovolj je, da pri enem od njih pride do algoritmične napake, nato pa celoten roj deluje na podlagi te napake in sledi napačni usmeritvi. To je še posebej nevarno, če so sistemi programirani za napade na ljudi," je opozorila.
Obstaja tudi nevarnost širjenja tovrstnega orožja med nedržavne oborožene skupine. Jemensko hutijsko gibanje je denimo za programiranje balističnih raket uporabljalo model umetne inteligence Claude, oborožene islamistične skupine v afriški regiji Sahel pa naj bi umetno inteligenco uporabljale za izboljšanje zmogljivosti brezpilotnih letalnikov in načrtovanje operacij.
Strokovnjaki zato opozarjajo, da je časa za ukrepanje vse manj. "Ne gre toliko za vsebino zakonodaje. Po 13 letih razprav je ključno vprašanje, ali končno obstaja politična volja, da se resno lotimo regulacije avtonomnih oborožitvenih sistemov," je za Guardian dejal visoki diplomat, seznanjen z razpravami v Združenih narodih.
Kakšno je tvoje mnenje o tem?
Sodeluj v razpravi ali preberi komentarje