Kako spriječiti „ratove budućnosti“?

Trka za oružjem koje koristi vještačku inteligenciju već je u punom jeku. „Mi smo usred toga. To je realnost sa kojom moramo da izađemo na kraj“, upozorio je njemački šef diplomatije Hajko Mas u razgovoru za novi dokumentarac DW „Budući ratovi – i kako ih spriječiti“.

Svjetske velesile ubijeđene su da pobjeda u ovoj trci donosi veliku moć. „Trka se vodi kroz vojna i civilna polja“, kaže nam Anamdip Sing Gil koji je nekada vodio grupu stručnjaka UN za autonomna oružja. „Ovo je pitanje teško mnogo biliona dolara“, kaže on.

Poslednji izvještaj američke Komisije za nacionalnu bezbjednost o vještačkoj inteligenciji govori o „novoj paradigmi ratovanja“ u kojoj se „algoritmi bore protiv algoritama". Zahtijevaju se masne investicije u ovo polje kako bi se „kontinuirano u inovacijama pobjeđivali potencijalni protivnici“. 

Kina stavlja vještačku inteligenciju u centar svojih istraživanja, dok tamošnja Narodna armija govori o budućem „inteligentnom ratovanju“. Ruski predsjednik Vladimir Putin je još 2017. rekao da će onaj ko postane lider u ovoj oblasti ujedno postati „gospodar svijeta“.

Pouke sa Kavkaza

Krajem prošle godine je Kavkaz bio velika laboratorija ovog ratovanja budućnosti. Sve je izgledalo kao i raniji teški sukobi Jermenije i Azerbejdžana oko Nagorno-Karabaha, ali stručnjaci su vidjeli novine. „Veoma važan aspekat tog sukoba je bila upotreba vrebajućeg oružja“, kaže Ulrike Franke, ekspertkinja za bespilotne letjelice u Evropskom savjetu za međunarodne odnose.

- pročitajte još: Želimo li da roboti krenu u rat protiv ljudi?

Izraz vrebajuće oružje (slobodni prevod od Loitering Weapon ili Loitering Munition) koristi se za projektile koji uzlijeću bez posebnog cilja i kruže iznad potencijalnih meta. Cilj se odabira tek kasnije. „Na Nagorno-Karababhu su korišćeni takvi dronovi-kamikaze – to su prilično autonomni sistemi“, kaže Franke.

Prema Centru za strateške i međunarodne studije, Azerbejdžan je imao oko dvije stotine ovakvih dronova, i to četiri različita modela, svi najmodernije izraelske proizvodnje. Jermenija je imala samo jedan domaći model.

Drugim armijama širom svijeta nije promaklo da ovakva prednost može da odluči rat. „Od tog konflikta vidimo određeni rast interesa za vrebajućim oružjem“, dodaje Franke. „Vidimo sve više vojski širom svijeta koje nabavljaju ili planiraju da nabave vrebajuću municiju.“

To je tek početak. Vještačka inteligencija će uskoro omogućavati jata dronova – mnogo njih koji lete zajedno, i strateški pogađaju više ciljeva.

„Mogli bi da naciljaju recimo sistem protivvazdušne odbrane“, kaže nam Martijn Raser iz Centra za novu američku bezbjednost iz Vašingtona. „Napadneš ga tolikom masom da je sistem preopterećen. To naravno donosi ogromnu taktičku prednost na bojištu.“

- pročitajte još: Umjetna inteligencija - utrka je već počela

Brojnost dronova i brzina kojom se sve dešava naprosto izmiču ljudskoj kontroli. Sve biva prepušteno softveru i vještačkoj inteligenciji. Kako kaže Ulrike Franke, to će tjerati armije da prilagode protivvazdušnu dobranu jer „ljudska bića neće biti u stanju da se toliko brzo nose sa autonomnim napadima“.

U apokaliptičnoj verziji, koja nije toliko daleko, imali bismo autonomna oružja koja reaguju jedna na druga i ulaze u spiralu eskalacije. „U literaturi to nazivamo fleš ratovima. To su slučajni vojni sukobi koje ljudi nisu namjeravali voditi“, kaže Franke.

Sporazum se ne nazire

Boni Doherti želi da spriječi takvu budućnost. Ona predaje na pravnoj školi Harvarda i predvodi kampanju „Stop robotima ubicama“, udruženje nevladinih organizacija koje traže zabranu autonomnih smrtonosnih oružja.

„Obaveza koja bi proizišla iz takvog dogovora je da se održi smislena ljudska kontrola nad upotrebom sile“, kaže Doherti za DW. „Sporazum bi se ticao svih oružja koja djelaju autonomno, to jest biraju mete i otvaraju vatru na osnovu podataka koje prikupe senzori, umjesto na osnovu ljudske komande."

Kampanja se fokusira na razgovore u Ženevi pod kišobranom Konvencije UN. Ali, to je spor proces iz kojeg je za sada proizišao niz „principa“, recimo da autonomna oružja podliježu krivičnom prvu i da su na kraju ljudi odgovorni za njihovu upotrebu. Razgovori se nastavljaju ove godine.

Doherti misli da to neće bogzna šta donijeti jer velike sile nemaju interes da potpišu zabranu ovakvog oružja. „Rusija se posebno snažno opire. Ali sporazum ne podržavaju ni druge zemlje koje razvijaju autonomno naoružanje poput Izraela, SAD i Velike Britanije." 

Njemačka podržava ideju da se ovakva oružja zabrane, ali ne podržava kampanju „Stop robotima ubicama“. „Ne odbijamo tu kampanju u njenoj suštini – samo tražimo da drugi budu uključeni“, kaže njemački ministar spoljnih poslova Mas. „Vojne sile koje su tehnološki u mogućnosti ne samo da razviju, već i da upotrebe autonomno oružje.“

- pročitajte još: Roboti-ubojice i autonomno oružje

Mas je saglasan da sporazum treba da bude krajnji cilj. „Baš kao što smo uspjeli sa nuklearnim oružjem tokom mnogih decenija, i sada moramo da skujemo međunarodne sporazume o novim tehnologijama oružja“, navodi on. „Tu mora jasno da piše da smo saglasni kako nije prihvatljivo sve što je tehnički moguće.“

Ali za sada nema konsenzusa. Ulrike Franke nije optimistična. Kaže, najviše čemu se može nadati su neka pravila kako se nove smrtonosne tehnologije koriste. „Recimo, dogovor da se neki kapaciteti koriste samo u odbrambene svrhe ili samo protiv mašina, a ne ljudi“, dodaje ona.

U međuvremenu, uz relativno malo pažnje javnosti, razorna oružja budućnosti napreduju. „Svijet mora da se zanima za činjenicu da idemo ka situaciji u kojoj će svako moći da radi šta mu je volja sa sajber ili autonomnim oružjem“, upozorava Mas. „To ne želimo.“

Pratite nas i na Facebooku, na Twitteru, na YouTube, kao i na našem nalogu na Instagramu