Vojna v Ukrajini odpira hudo dilemo. Po eni strani gre za navdihujočo zgodbo odpora Davida proti Goljatu s pomočjo ustvarjalnosti in tehničnega znanja. Po drugi strani pa je napredek na področju vojskovanja z droni že dosegel prag, ko je treba razmišljati tudi o času po koncu te vojne.
Zlasti zaradi premika vse bolj v smer avtonomnih orožij. Tudi ta odpirajo hudo dilemo. Po eni strani zaradi njih ljudem ne bi bilo več treba v najbolj nevarne vojaške misije. Po drugi strani pa odpirajo vprašanja odgovornosti za smrtonosne odločitve ter vse večje lahkotnosti odločitev za vojskovanje, saj v smrt ni več treba pošiljati svojih državljanov, lahko pa ubijaš tuje. Da o nevarnosti uporabe avtonomnih orožij represivnih režimov nad lastnim prebivalstvom niti ne govorimo.
V Ženevi se bo v ponedeljek zato začela konferenca Združenih narodov, na kateri bodo države razpravljale o omejitvah in morebitnih prepovedih smrtonosnih avtonomnih orožnih sistemov (LAWS), ki jim nekateri pravijo tudi roboti ubijalci. Razprava bo potekala v okviru Konvencije o določenem konvencionalnem orožju (CCW), vendar analitiki dvomijo, da bodo pogovori lahko sledili hitremu razvoju tehnologije.
Meja med avtonomijo in človeškim nadzorom
Smrtonosni avtonomni orožni sistemi lahko po opredelitvi Jeana-Marca Ricklija, vodje oddelka za globalna in nastajajoča tveganja v Ženevskem centru za varnostno politiko, »prepoznajo, izberejo in napadejo tarčo brez posredovanja človeškega operaterja pri izvajanju teh nalog«. Avtonomno orožje sicer ni novost. »Protipehotna mina je avtonomno orožje v smislu, da eksplodira, ko nekdo stopi nanjo,« je pojasnila Laure de Roucy-Rochegonde iz francoskega Inštituta za mednarodne odnose (IFRI).
Bistvena novost je uporaba umetne inteligence v brezpilotnih letalnikih, ki lahko izbirajo tudi tarče, ki niso bile vnaprej določene, in se prilagajajo okoliščinam brez človeškega posredovanja. Zato je osrednje vprašanje, koliko nadzora mora imeti človek nad odločitvijo za uporabo orožja.
ZDA govorijo o »ustrezni ravni človeške presoje«, Francija pa vztraja, da mora človek ostati v procesu odločanja. Čeprav prepoveduje smrtonosne avtonomne sisteme, dopušča delno avtonomne različice. »Vloga človeka je vedno zagotovljena z ustreznim nadzorom vojaškega poveljnika,« je pojasnil francoski kontraadmiral Vincent Sebastien. Obseg nadzora je po njegovih besedah odvisen od pomembnosti posameznega sistema in operativnih okoliščin.
Opozorila pred moralno mejo
Generalni sekretar ZN Antonio Guterres in predsednica Mednarodnega odbora Rdečega križa Mirjana Spoljaric sta avgusta v skupni izjavi opozorila, da smo »nevarno blizu prestopu moralne rdeče črte: avtonomnemu izbiranju ljudi za tarče s strani strojev«. Po mnenju analitikov pa ženevska razprava zajema le del širšega problema. Umetna inteligenca namreč vse bolj sodeluje tudi pri analiziranju podatkov in določanju ciljev, s čimer se zmanjšuje vloga človeka v vojaškem odločanju.
Rickli meni, da je dnevni red pogovorov »zelo ozek«, saj ne zajema vseh vprašanj, povezanih z uporabo umetne inteligence na bojišču. Kot primer je navedel letošnjo vojno ZDA in Izraela proti Iranu, v kateri naj bi ameriške sile znotraj Irana dnevno napadle tudi do 1000 tarč. De Roucy-Rochegonde je opozorila, da so s sistemi za izbiro tarč in podporo odločanju povezana številna tveganja. »Kakšen človeški nadzor je potreben, da zagotovimo, da operater dejansko uporablja lastno presojo in ne zgolj potrjuje priporočil stroja?« se je vprašala.
Tekma za vojaško prednost
Avtonomno orožje sicer še ni množično razširjeno, vendar so ga analitiki zaznali v ruski vojni proti Ukrajini in ameriških napadih na Iran. »Avtonomija bo zelo hitro postala resničnost na bojišču,« je opozoril Sebastien. Tudi Guterres in Spoljaric sta poudarila, da avtonomni orožni sistemi niso oddaljena prihodnost, temveč da tekma za njihovo vse večjo samostojnost že poteka.
O zanesljivosti tehnologije ostajajo pomisleki. Dario Amodei, vodja podjetja Anthropic, je letos opozoril, da današnji najzmogljivejši sistemi umetne inteligence »preprosto še niso dovolj zanesljivi za upravljanje popolnoma avtonomnega orožja«. Kljub temu so spodbude za razvoj velike, zlasti zaradi možnosti uporabe rojev brezpilotnih letalnikov, ki lahko s številčnostjo preobremenijo nasprotnikovo obrambo. Nekatere države jih že obravnavajo kot pomembno strateško prednost. Kitajsko obrambno ministrstvo je roje avtonomnih dronov januarja označilo za »nov obraz vojskovanja«.
»V obdobju zaostrene vojaške konkurence bo prva država, ki bo normalizirala popolnoma avtonomne smrtonosne napade, spremenila pričakovanja vseh drugih,« je opozoril Gerald Mako, raziskovalec, povezan z Univerzo v Cambridgeu.