1. Idi na sadržaj
  2. Idi na glavnu navigaciju
  3. Idi na ostale ponude DW-a

Želimo li da roboti krenu u rat protiv ljudi?

Nina Werkhäuser
21. kolovoza 2019

U Ženevi se već godinama vodi rasprava o užasu rata koji je zapravo već počeo: kada ga više ne vode ljudi, nego mašine i roboti koji su stvoreni za ubijanje. Neke zemlje već eksperimentiraju – i ne žele zabranu.

https://p.dw.com/p/3OF8e
Prizor iz filma Terminator 1 u kojem se i radi o ratu ljudi i robota u doglednoj budućnosti
Foto: picture-alliance/Orion Pictures Corporation/Courtesy Everett Collection

Za glavnog tajnika UN-a Antonia Guterresa tu nema niti zrnca dvojbe: autonomno oružje je „politički neprihvatljivo i moralno odvratno" i treba ih zabraniti međunarodnom konvencijom. „Pomislite na posljedice kad neki autonomni oružani sustav samostalno bira ljude kao ciljeve i odlučuje o napadu", apelira glavni tajnik.

Predstavnici međunarodne zajednice su se opet okupili u Ženevi kako bi raspravljali o zabrani – kako se to u medijima zove - „robota-ubojica". Ali sloga nije na vidiku, još manje je šanse za njihovu zabranu i prije nego što se pojave na ratištima. „Tapka se na mjestu", javlja nam jedan od sudionika ove rasprave UN-a.

Method 2., eksperimentalni borbeni robot Južne Koreje
Južnokorejski model Method II. doista liči na robota iz filma znanstvene fantastike. Ali teško je reći da će razvoj "robota ubojica" ići tim smjerom: previše je ranjiv na paljbu protivnika.Foto: picture-alliance/Seung-il Ryu/NurPhoto

Ono što iz usta glavnog tajnika zvuči kao užas znanstvene fantastike je zapravo već odavno realnost. Već mnoge vojske svijeta eksperimentiraju oružanim sustavima u kojem se sažima umjetna inteligencija i robotika u potencijalno smrtonosno oružje. Vojna logika je jasna: ako su strojevi na bojišnici, ljudi su na sigurnom. Nema loših medijskih izvješća o vlastitim poginulim ili ranjenim vojnicima i koga je briga ako je uništen jedan stroj. Povrh toga, strojevi nikad nisu umorni i uvijek su precizni, govore zagovornici. A to u konačnici ima čak i prednosti: bit će manje šteta na civilnim ciljevima.

To nipošto više nije znanstvena fantastika

Prema prihvaćenoj definiciji Međunarodnog odbora Crvenog križa, autonomnim oružjem se smatra ono oružje koje samostalno bira svoje ciljeve i uništava ih. Recimo kada se rado i današnjim bespilotnim letjelicama, tu je još uvijek u pravilu negdje neki vojnik koji upravlja letjelicom, odabire cilj i aktivira oružje. Autonomno oružje pak sve odlučuje samo.

U tom se smjeru već daleko odmaklo. Već sad postoje projektili koji će sami procijeniti, je li cilj u povoljnom položaju za uništavanje ili je bolje „čekati" dok se to ne dogodi.

Borbeni robot Talon Sword
Mnogo vjerojatniji "ratnik budućnosti" na bojišnici je ovakvo vozilo: to je američki Talon Sword, ali i Rusija već razvija slični sustav. Opet: njime još upravlja čovjek, ali tehnički - mogao bi u rat krenuti i sam. Dapače: veza robota sa ljudima je podložna ometanju.Foto: picture-alliance/dpa/D. Herrick

Tu nije teško otići još dalje: znanstvenici uopće ne misle kako je nemoguće bojište gdje više uopće neće ljudi, nego će matematičke formule u procesorima računala odlučivati o životu ili smrti. To bitno krši humanitarno međunarodno pravo: ono nalaže kako se rat smije voditi samo između boraca, a ne protiv civila. Može li računalo razlikovati vojnika od civila? Veoma teško. „Ne možemo u te strojeve ugrađivati čipove sa upisanim pravilima međunarodnog prava", kažu protivnici takvog oružja. Mora postojati jamstvo da čak i kad je posao ubijanje, uvijek čovjek na koncu odlučuje hoće li se povući obarač.

Kako stvoriti takvo jamstvo? O tome već pet godina raspravljaju Ujedinjeni narodi u Ženevi u okviru rasprave o „Konvenciji o određenom konvencionalnom oružju" (Convention on Certain Conventional Weapons, CCW). Sredinom devedesetih se na tom forumu još uspjela zabraniti upotreba lasera koji bi služio oslijepiljivanju protivnika, i to još prije nego što je takvo oružje došlo na neko od bojišta. Takvu zabranu protivnici žele postići i za „robote ubojice", ali pregovori su veoma teški.

CCW konferencija 2013. u Ženevi
Još od 2013. se u Ženevi vodi rasprava o takvom oružju - i šanse za zabranu ne izgledaju dobro. Jer velike sile će radije slati strojeve u opasnost rata nego svoje vojnike.Foto: picture-alliance/Kyodo

Mali protiv velikih

Glavni protivnici su države koje su već ionako daleko odmakle u razvoju automatiziranog oružja, dakle SAD, Rusija, ali i Izrael. One odbijaju rezoluciju koja bi jasno zabranila takve sustave. Tim vojnim velesilama se protivi skupina od 28, djelomice malenih država i koji traže jasnu zabranu. Jedina zemlja EU među njima je – Austrija. Te zemlje koje teže zabrani podržava čitav spektar nevladinih udruga: ukupno 113 udruga iz 50 zemalja se pridružilo inicijativi Campagne to Stop Killer Robots. Podržava je i Europski parlament, mnoštvo znanstvenika, među kojima je i 21 dobitnik Nobelove nagrade.

Njemačka se nije priključila niti zagovornicima, niti protivnicima, makar se sadašnja vlada u svom koalicijskom sporazumu složila kako ne želi takvo oružje: „Odbijamo autonomne sustave naoružanja koji su izvan nadzora čovjeka. Želimo da ono bude odbačeno u čitavom svijetu", piše u tom sporazumu. No njemačko izaslanstvo na ovoj raspravi u Ženevi procjenjuje kako se „trenutno" jednostavno ne može postići potpuna međunarodna zabrana takvog oružja već zbog jasnog protivljenja SAD i Rusije. Ono što njemačka vlada nerado govori: i njemački proizvođači oružja eksperimentiraju s takvim sustavima, a neke od tih funkcija bi trebao imati i njemačko-francuski vojni zrakoplov FCAS s pripadajućim bespilotnim letjelicama upravljanim satelitskom navigacijom.

Deutschland Aktion gegen Killer-Roboter
Njemačka se prema tom pitanju odnosi dvojako: ne ubraja se u protivnike jer strahuje da tako neće doći do zaključka koji bi to barem nekako regulirao. Ali građanske inicijative su tu sasvim jasne, kao na ovom prosvjedu u Berlinu ovog ožujka.Foto: Reuters/A. Hilse

U svakom slučaju postoji mogućnost da propadne i ova runda pregovora. Trenutno je na stolu tek prijedlog – da se o tome još raspravlja slijedeće dvije godine. Prema mutnoj formulaciji, izražava se nada kako će se do tada postići „normativni okvir". Sve je to naravno veoma daleko od nekakvih jasnih riječi zabrane.

Thomas Küchenmeister, glasnogovornik njemačkog ogranka inicijative Stop Killer Robots je razočaran ovim „nebuloznim formulacijama". I dalje se umanjuje značaj nužnosti da ipak čovjek odlučuje o uporabi sile, kaže Küchenmeister za  DW. On isto tako strahuje kako ta rasprava u Ženevi „nikad neće dovesti do jasne zabrane autonomnog oružja."

Protivnici ipak ne žele odustati: dugo su se u Ženevi protivili i sporazumu o zabrani protupješačkih mina i kazetnih bombi. Protivnici su se zato organizirali izvan ovog tijela Ujedinjenih naroda i pred vladama čitavog svijeta zagovarali takvu zabranu – koje je potpisano u Ottawi i Oslu. Danas je i ta zabrana dio međunarodnog prava.

Čitajte nas i preko DW-aplikacije za Android