Kada se udruže oružje i genetska tehnologija
3. oktobar 2018
Prije tačno 35 godina je svijet bio na ivici atomskog rata. Bilo je to na vrhuncu Hladnog rata. U martu 1983. se na radiju pojavio Nenin hit "99 balona" (Neunundneunzig Luftballons) - tu se govori o ratu koji je počeo zbog omaške. I baš to se umalo i desilo.
Satelitski sistem za rano upozoravanje na nuklearnu opasnost je u noći između 25. i 26. septembra 1983. prijavio da su SAD ispalile 50 nuklearnih raketa. Bila je velika sreća za čovječanstvo da je te noći na smjeni bio Stanislav Jegorovič. Čovjek. Neko ko nije odmah povjerovao slici na svom ekranu, već je informaciju odmah proglasio lažnim alarmom i nije naredio da se odmah izvede nuklearni protivudar. Njegova procjena se ispostavila kao tačna: jedan sovjetski špijunski satelit je zbog greške u softveru odraz sunčeve svjetlosti sa oblaka protumačio kao start raketa. Jegorovičev herojski čin je decenijama bio državna tajna.
Pitanje koje se ovdje postavlja nije samo: kako bi neko drugi reagovao na Jegorovičevom mjestu. Pravo pitanje glasi: kako bi reagovao neki automatski sistem? Digitalizacija je odavno duboko prodrla i u svijet ubijanja - vještačka inteligencija, mašinsko učenje, robotika, trodimenzionalna štampa i genska tehnika, revolicionisali su vojsku. Jasan je trend ka proizvodnji autonomnih oružanih sistema. Jasno je da odluke o životu i smrti uskoro neće donositi ljudi. "Tu postoji čitav niz implikacija zajedno sa pitanjam: da li je to etički ispravno", konstatuje Rajnhard Grinvald iz Kancelarije njemačkog Bundestaga za procjenu tehničkih procesa: "Kakvi rizici za međunarodnu stabilnost nastaju na taj način? To je kompleksno pitanje koje uključuje i pitanje o nastavku postojanja čovječanstva".
Smrtonosan trend brzine
Trend autonomnih oružanih sistema pojačava i sve veća brzina kojom se odvijaju konflikti. Komanditi koriste moderne tehnologije i sve više i vještačku inteligenciju da bi u kompleksnim ratnim situacijama imali pregled događanja i da bi mogli da donose odluke. No, time se brzina samo dodatno povećava: "Od jednog trenutka ljudi više neće biti u stanju da reaguju potrebnom brzinom", prognozira Grinvald: "tu već postoji pritisak da se postane sve brži i ljudska sposobnost odlučivanja više neće biti dovoljna".
I Džastin Bronk primjećuje sve veću spremnost armija da se pouzdaju u tehničke sisteme kako bi mogle da se nose sa onim što je njemački strateg Karl fon Klauzevic još prije 200 godina nazvao "neizvjesnošću rata" ("fog of war"). Bronk se u britanskom odbrambenom trustu mozgova "Royal United Services Institute" (RUSI) bavi temama avijacije i tehnologije. On je kod zapadnih vojski, prije svega u SAD i Velikoj Britaniji, primijetio da postoji duhova klima "povjerenja u funkcionisanje tih sistema - iako ima dosta dokaza da oni ni izdaleka ne rade tako pouzdano kao što bi se to moglo zaključiti na osnovu teorije".
Bronk sjedi u sivoj naslonjači u stokholmskom Muzeju fotografije. Ovo zdanje od fasadne cigle je ranije služilo kao zgrada carine. A sada, krajem septembra, ona služi kao mjesto za održavanje konferencije štokholmskog Instituta za istraživanje mira SIPRI. Njen naslov glasi: "Nove tehnologije", "Tehnologija upotrebe smrtonosnih oružanih sistema (LAWS) u vazduhu je već tu", objašnjava Bronk: "Kada pogledate kolika se borbena snaga dobija za evre, funte ili dolare, autonomni, programirani i naoružani dronovi (UCAVS) su bitno jeftiniji od aviona sa posadom." Otkako (od 2015) vojska SAD takve dronove čak i snabdjeva gorivom u letu, vrijeme njihove upotrebe je ograničeno samo potrošnjom ulja i redovnim inspekcijama.
Kombinacija novih tehnologija
Na sastanku SIPRI se prije svega radi o pitanju kakve prijetnje se pojavljuju u vezi sa novim tehnologijama. Den Smit je od prije tri godine direktor SIPRI. "Ideja ove konferencije jeste da razne teme prečesto proučavamo odvojeno", kaže on za DW: "na primjer, diskutujemo o kibernetičkom ratovanju ovdje i nukleranoj prijetnji tamo, a možda se prava opasnost krije u hakovanju nuklearnih elektrana", ili u kombinaciji trodimenzionalnog štampanja i genske tehnologije. Den Smit se pribojava da bi biološki agensi u formi jedinica i nula mogli da se šire kao digitalizovane sekvence koje bi mogle da se spoje u opasni agens i tako šire. "To ni ne moraju da budu virusi od kojih ljudi oboljevaju. To mogu biti i biološke materije koje napadaju biljke kako bi bilo prekinut snabdjevanje životnim namirnicama i da bi se stvorio haos na tržištu životnih namirnica."
U stokholmski Muzej fotografije je pozvano 200 stručnjaka - da bi diskutovali o ovakvim košmarima. Među njima su predstavnici vlada i vojski, naučnici, predstavnici međunarodnih organizacija, privatnici.
"Najprije etika"
Tu je i Šarlot Lindzi Kertet, direktorka za digitalnu transformaciju i podatke u Međunarodnom komitetu Crvenog krsta (IKRK). Ona traži da se međunarodno pravo i Ženevska konvencija i dalje primjenjuju, bez obzira na to kojim oružjem se vode borbe. Pozicija IKRK je, kako je rekla Kertetova, da "čovjek mora biti centralna instanca u procesu odlučivanja o upotrebi bilo koje tehnologije ili oružja koje može da ubije, povrijedi ili osakati nekoga ili da utiče na važnu infrastrukturu po život ljudi".
Heder Rof sa univerziteta Džon Hopkins na američkoj Istočnoj obali zahtjeva da se već prilikom razvoja novih oružanih sistema misli na etičke principe. Jedan od učesnika konferencije je rekao: "Ne znamo kuda nas vodi ovaj razvoj tehnike. Ali ćemo se kretati tim putem. Nemamo alternativu". A to da mnogi ne znaju kuda to se vodi, ilustruje i primjedba jednog od njenih učesnika izrečena u bifeu: "Naša situacija izgleda kao Rimsko carstvo plus kibernetika. Nemamo mnogo ideja o tome šta da radimo. Trebalo bi da čitamo knjige iz istorije."