Ništa od zabrane autonomnog oružja

Dron ne dostavlja pizzu, već je napunjen eksplozivom. Opremljen je kamerom i senzorima, pokreću ga četiri lopatice rotora. Riječ je o takozvanom dronu kamikazi koji može samostalno locirati svoj cilj i „baciti" se na njega. Algoritmi to omogućuju. Tijekom napada, dron se samouništi, ostavljajući za sobom malu hrpu elektroničkog otpada.

Dronovi kamikaze ne pojavljuju se u nekom znanstveno-fantastičnom filmu, već u promotivnom videu njegovog proizvođača. Upravo o takvom oružju od ponedjeljka (25.7.) oko 80 zemalja ponovno pregovara, odnosno o njegovoj zabrani - u Ujedinjenim narodima u Ženevi.

Strojevi koji ubijaju ljude

Po definiciji, riječ je o oružju koje svoju metu može neovisno tražiti, birati i gađati. Za razliku od oružja na daljinsko upravljanje, posljednjom fazom napada oni upravljaju samostalno. Tvrtke iz sektora obrane i naoružanja koriste najnovija saznanja u području umjetne inteligencije (AI) i strojnog učenja. Kritičari takvo oružje nazivaju robotima ubojicama, u konferencijskoj dvorani u Ženevi govori se o "letalnim (smrtonosnim) autonomnim oružanim sustavima". To mogu biti primjerice dronovi, robotska vozila ili podmornice.

Korištenje tih oružja je sporno: neke zemlje traže zabranu jer algoritam nikada ne bi trebao odlučivati ​​o životu i smrti. Druge predlažu pravila za njihovo korištenje koja bi trebala biti više ili manje obvezujuća. Osnovni zahtjev je, kako navode, da ljudsko biće mora održavati određenu razinu kontrole nad tim oružanim sustavima u svakom trenutku.

Veto Rusije

Međunarodna zajednica se od 2014. godine sastaje dva puta godišnje u Ženevi kako bi raspravljala o eksplozivnoj temi. Pozicije se znatno razlikuju. Prije svega SAD, Rusija i Kina protive se zabrani ili obvezujućim pravilima, za koja se boje da će im donijeti vojno-strateške nedostatke.

Ruski agresorski rat u Ukrajini dodatno je otežao pregovore. Rusija je blokirala posljednji sastanak u ožujku neusvajanjem dnevnog reda. "Rusima se nije svidjelo što su im uvedene sankcije. Zato su spriječili da pregovori uopće počnu", kaže Ousman Noor. On prati razgovore za "Campaign to Stop Killer Robots", nevladinu organizaciju koja radi na zabrani ovog oružja. Noor načelo konsenzusa u Ženevi smatra jednom od najvećih prepreka: "Jedna država može staviti veto na cijeli proces", kaže on. Stoga je, smatra on, krajnje vrijeme da oni koji su za zabranu napuste "neučinkoviti forum” u Ženevi.

Ratni zločini autonomnim oružjem

"Razgovori u Ženevi su propali", slaže se Vanessa Vohs, koja istražuje autonomno oružje na Sveučilištu Bundeswehra u Münchenu. Još uvijek ima mnogo neodgovorenih pitanja: "Ako autonomni oružani sustavi pogriješe i eventualno počine ratne zločine, tko je onda odgovoran?" pita se ova znanstvenica. "Takozvani jaz u odgovornosti je veliki problem", dodaje ona.

Malo je toga što ukazuje na to da će se tako goruća pitanja riješiti u Ženevi. Pogotovo jer se situacija promijenila kao posljedica rata u Ukrajini: neki smatraju da je zabrana smrtonosnog autonomnog oružja hitnija nego ikad, dok joj drugi ne daju nikakve izglede.

"Smrtonosniji od nuklearne bombe"

"Postoje dokazi da Rusija koristi autonomne oružane sustave u ovom sukobu", rekao je Ousman Noor iz "Campaign to Stop Killer Robots". Među njima su navodno i dronovi kamikaze. Njihova uporaba u ratu "mogla bi dovesti do spoznaje da hitno moramo regulirati to oružje prije nego što se počne prodavati širom svijeta".

Stručnjaci za umjetnu inteligenciju već dugo upozoravaju da se posebno male naoružane bespilotne letjelice mogu jeftino proizvesti u velikim količinama - a nekoliko talentiranih studenata informatike bilo bi dovoljno da ih programiraju. "Kada vam više ne trebaju ljudi za upravljanje tim oružjem, možete ih poslati desetke tisuća ili čak milijuna", upozorava britanski istraživač umjetne inteligencije Stuart Russell u intervjuu za DW. "Čineći to, stvaramo oružje koje je potencijalno smrtonosnije od nuklearne bombe", kaže on.

Više novca za vojsku

Dakle, postoji li nova dinamika u pokušaju zabrane korištenja robota ubojica? U ovom trenutku može se primijetiti suprotan učinak: upravo zbog rata u Ukrajini države ulažu više novca u vojsku, ponajprije u moderno oružje. Njemačka ulaže dodatnih 100 milijardi eura u Bundeswehr. Ulaže i u sustave koji, poput borbenih aviona budućnosti (FCAS), rade s umjetnom inteligencijom.

Promatrači javljaju da je Njemačka u posljednje vrijeme neodlučna u pregovorima u Ženevi. Čini se da se vlada u Berlinu ne želi odreći vojnih prednosti koje autonomno oružje može donijeti. Dokument u kojem je ona iznijela svoj stav o toj temi, ne postoji. Njemačka nije sama u tome, barem ne u Ženevi. Nitko ne očekuje da će ovo tijelo zabraniti smrtonosna autonomna oružja ili barem izdati obvezujuća pravila za njihovu upotrebu.

Sada se traži alternativa - po mogućnosti država koja će voditi pokret i pozvati druge države da pregovaraju o ugovorima. Nizozemska se smatra mogućim kandidatom. Vrijeme je ključno - s tehnološkim napretkom rizici su se povećali, upozoravaju stručnjaci poput Vanesse Vohs. "Zato su nam potrebna nova pravila prije nego što krenemo u apokaliptični scenarij u kojem će nešto stvarno poći po zlu."

Pratite nas i na Facebooku, preko Twittera, na Youtubeu, kao i na Instagramu