Pozdrav od „Skajneta“
27. septembar 2018.
Pre tačno 35 godina svet je bio na ivici atomskog rata. Bilo je to na vrhuncu Hladnog rata. U martu 1983. se na radiju pojavio Nenin hit „99 balona“ (Neunundneunzig Luftballons) – tu se govori o ratu koji je počeo zbog omaške. I baš to se umalo i desilo.
Satelitski sistem za rano upozoravanje na nuklearnu opasnost je u noći između 25. i 26. septembra 1983. prijavio da su SAD ispalile 50 nuklearnih raketa. Bila je velika sreća za čovečanstvo da je te noći na smeni bio Stanislav Jegorovič. Čovek. Neko ko nije odmah poverovao slici na svom ekranu, već je informaciju odmah proglasio lažnim alarmom i nije naredio da se odmah izvede nuklearni protivudar. Njegova procena se ispostavila kao tačna: jedan sovjetski špijunski satelit je zbog greške u softveru odraz sunčeve svetlosti sa oblaka protumačio kao start raketa. Jegorovičev herojski čin je decenijama bio državna tajna.
Pitanje koje se ovde postavlja nije samo: kako bi neko drugi reagovao na Jegorovičevom mestu. Pravo pitanje glasi: kako bi reagovao neki automatski sistem? Digitalizacija je odavno duboko prodrla i u svet ubijanja - veštačka inteligencija, mašinsko učenje, robotika, trodimenzionalna štampa i genska tehnika, revolicionisali su vojsku. Jasan je trend ka proizvodnji autonomnih oružanih sistema. Jasno je da odluke o životu i smrti uskoro neće donositi ljudi. „Tu postoji čitav niz implikacija zajedno sa pitanja: da li je to etički ispravno“, konstatuje Rajnhard Grinvald iz Kancelarije Nemačkog Bundestaga za procenu tehničkih procesa: „Kakvi rizici za međunarodnu stabilnost nastaju na taj način? To je kompleksno pitanje koje uključuje i pitanje o nastavku postojanja čovečanstva“.
Smrtonosan trend brzine
Trend autonomnih oružanih sistema pojačava i sve veća brzina kojom se odvijaju konflikti. Komanditi koriste moderne tehnologije i sve više i veštačku inteligenciju da bi u kompleksnim ratnim situacijama imali pregled događanja i da bi mogli da donose odluke. No, time se brzina samo dodatno povećava: „Od jednog trenutka ljudi više neće biti u stanju da reaguju potrebnom brzinom“, prognozira Grinvald: „tu već postoji pritisak da se postane sve brži i ljudska sposobnost odlučivanja više neće biti dovoljna“.
I Džastin Bronk primećuje sve veću spremnost armija da se pouzdaju u tehničke sisteme kako bi mogle da se nose sa onim što je nemački strateg Karl fon Klauzevic još pre 200 godina nazvao „neizvesnošću rata“ (fog of war). Bronk se u britanskom odbrambenom trustu mozgova „Royal United Services Institute“ (RUSI) bavi temama avijacije i tehnologije. On je kod zapadnih vojski, pre svega u SAD i Velikoj Britaniji, primetio da postoji duhova klima „poverenja u funkcionisanje tih sistema – iako ima dosta dokaza da oni ni izdaleka ne rade tako pouzdano kao što bi se to moglo zaključiti na osnovu teorije“.
Bronk sedi u sivoj naslonjači u stokholmskom Muzeju fotografije. Ovo zdanje od fasadne cigle je ranije služilo kao zgrada carine. A sada, krajem septembra, ona služi kao mesto za održavanje konferencije stokholmskog Instituta za istraživanje mira SIPRI. Njen naslov glasi: „Nove tehnologije“. „Tehnologija upotrebe smrtonosnih oružanih sistema (LAWS) u vazduhu je već tu“, objašnjava Bronk: „Kada pogledate kolika se borbena snaga dobija za evre, funte ili dolare, autonomni, programirani i naoružani dronovi (UCAVS) su bitno jevtiniji od aviona sa posadom.“ Otkako (od 2015) vojska SAD takve dronove čak i snabdeva gorivom u letu, vreme njihove upotrebe je ograničeno samo potrošnjom ulja i redovnim inspekcijama.
Kombinacija novih tehnologija
Na sastanku SIPRI se pre svega radi o pitanju kakve pretnje se pojavljuju u vezi sa novim tehnologijama. Den Smit je od pre tri godine direktor SIPRI. „Ideja ove konferencije jeste da razne teme prečesto proučavamo odvojeno“, kaže on za DW: „na primer, diskutujemo o kibernetičkom ratovanju ovde i nuklearnoj pretnji tamo, a možda se prava opasnost krije u hakovanju nuklearnih elektrana“, ili u kombinaciji trodimenzionalnog štampanja i genske tehnologije. Den Smit se pribojava da bi biološki agensi u formi jedinica i nula mogli da se šire kao digitalizovane sekvence koje bi mogle da se spoje u opasni agens i tako šire. „To ni ne moraju da budu virusi od kojih ljudi oboljevaju. To mogu biti i biološke materije koje napadaju biljke kako bi bilo prekinut snabdevanje životnim namirnicama i da bi se stvorio haos na tržištu životnih namirnica.“
U stokholmski Muzej fotografije je pozvano 200 stručnjaka – da bi diskutovali o ovakvim košmarima. Među njima su predstavnici vlada i vojski, naučnici, predstavnici međunarodnih organizacija, privatnici.
„Najpre etika“
Tu je i Šarlot Lindzi Kertet, direktorka za digitalnu transformaciju i podatke u Međunarodnom komitetu Crvenog krsta (IKRK). Ona traži da se međunarodno pravo i Ženevska konvencija i dalje primenjuju, bez obzira na to kojim oružjem se vode borbe. Pozicija IKRK je, kako je rekla Kertetova, da „čovek mora biti centralna instanca u procesu odlučivanja o upotrebi bilo koje tehnologije ili oružja koje može da ubije, povredi ili osakati nekoga ili da utiče na važnu infrastrukturu po život ljudi“.
Heder Rof sa univerziteta Džon Hopkins na američkoj Istočnoj obali zahteva da se već prilikom razvoja novih oružanih sistema misli na etičke principe. Jedan od učesnika konferencije je rekao: „Ne znamo kuda nas vodi ovaj razvoj tehnike. Ali ćemo se kretati tim putem. Nemamo alternativu“. A to da mnogi ne znaju kuda to se vodi, ilustruje i primedba jednog od njenih učesnika izrečena u bifeu: „Naša situacija izgleda kao Rimsko carstvo plus kibernetika. Nemamo mnogo ideja o tome šta da radimo. Trebalo bi da čitamo knjige iz istorije.“