Terminator, Sarah Connor, sudnji dan… James Cameron vizionarski je još 1984. napravio prvi film iz serijala. Drugi nastavak filma, po mnogima puno bolji, izašao je 1991. Opet je Arnold Schwarzenegger imao glavnu ulogu. I sada se postavlja ključno pitanje – dolazi li nam Skynet u stvarnom životu?

Hoće li roboti preuzeti sve, uključujući i bojna polja? Ne želimo biti pesimistični, ali čini se da uživo gledamo kultni film. Glavni lik zove se Phantom MK-1. Okovan je u crni čelik s tamnim staklenim vizirom, izaziva nelagodu kakvu rijetko pobuđuju klasični humanoidni roboti. Krajem veljače demonstrirao je svoj arsenal: revolver, pištolj, sačmaricu i repliku puške M-16.

“Smatramo da postoji moralna obveza poslati robote u rat umjesto vojnika”, kaže Mike LeBlanc, veteran američkih marinaca s više misija u Iraku i Afganistanu te jedan od suosnivača tvrtke Foundation, proizvođača robota Phantom. Cilj je, kaže, da robot može koristiti “svako oružje koje može koristiti i čovjek”, piše Time.

Neumorni i otporni vojnici

Danas se Phantom testira u tvornicama i lukama od Atlante do Singapura. No njegova glavna ambicija jest postati prvi humanoidni robot na svijetu razvijen posebno za vojne svrhe. Foundation već ima istraživačke ugovore s američkom vojskom, mornaricom i zrakoplovstvom ukupne vrijednosti 24 milijuna dolara, uključujući i tzv. SBIR Phase 3 status, što tvrtku praktično čini odobrenim vojnim dobavljačem. Uskoro bi trebala započeti i testiranja u programu obuke marinaca za probijanje ulaza u zatvorene objekte, gdje će se roboti obučavati za postavljanje eksploziva na vrata kako bi vojnici sigurnije ulazili u objekte.

U veljači su dva robota Phantom poslana u Ukrajinu, isprva radi potpore izviđanju na bojišnici. No, Foundation istodobno priprema sustav za moguće borbene operacije za američki Pentagon, koji “nastavlja istraživati razvoj militariziranih humanoidnih prototipova namijenjenih djelovanju uz vojnike u složenim i visokorizičnim okruženjima”, poručuju iz Ministarstva obrane. LeBlanc dodaje da je tvrtka u “vrlo bliskom kontaktu” i s američkim Ministarstvom domovinske sigurnosti zbog potencijalne uporabe robota u patroliranju duž južne granice SAD-a.

U samo nekoliko godina nagli razvoj umjetne inteligencije pretvorio je ono što je nekada bilo distopijska znanstvena fantastika u stvarnost. LeBlanc smatra da su humanoidni vojnici logičan nastavak postojećih autonomnih sustava poput dronova. Umjesto slanja mladih vojnika u opasne operacije, uz političke posljedice, ratne traume i rizik od zločina izazvanih stresom, roboti bi mogli ponuditi otporniju alternativu s većom preciznošću i kontrolom.

Roboti ne osjećaju umor ni strah, mogu djelovati neprekidno u ekstremnim uvjetima te su otporni na radijaciju, kemijske ili biološke prijetnje. LeBlanc vjeruje i da bi masovne vojske humanoidnih robota mogle s vremenom neutralizirati taktičku prednost suprotstavljenih strana, slično konceptu nuklearnog odvraćanja, čime bi se smanjio rizik od eskalacije sukoba.

Mike LeBlanc, Foundation

Smatramo da postoji moralna obveza poslati robote u rat umjesto vojnika.

Industrija zdravlja vida

Sve više Hrvata rješenje za vid pronalazi na istom mjestu – evo zašto

Promjene

Ulaganja u obranu i konkurentnost su nužna, ali ne na štetu radnika i kućanstava

No, kritičari upozoravaju na zastrašujuću drugu stranu takvog razvoja: humanoidni vojnici mogli bi sniziti političke i etičke prepreke za pokretanje rata, zamagliti odgovornost za moguće zloporabe i dodatno dehumanizirati ratovanje. Trenutačni protokoli Pentagona predviđaju da automatizirani sustavi mogu djelovati samo uz ljudsko odobrenje, a Foundation tvrdi da će se i Phantom držati tog načela.

Međutim, u Ukrajini se već koriste dronovi s umjetnom inteligencijom koji samostalno procjenjuju ciljeve i otvaraju vatru kada rusko ometanje onemogući daljinsko upravljanje. Ako protivnik dopusti potpuno autonomno djelovanje AI vojnika, što bi spriječilo SAD i saveznike da učine isto?

“To je sklizak teren”, upozorava Jennifer Kavanagh, direktorica analize vojske u washingtonskom think-tanku Defense Priorities. “Privlačnost automatizacije i uklanjanja ljudi iz procesa odlučivanja iznimno je velika. Nedostatak transparentnosti između zaraćenih strana dodatno povećava zabrinutost.”

U kontekstu sve snažnije militarizacije američkog društva ideja o vojnicima pokretanima umjetnom inteligencijom s nejasnim zapovjednim lancem izaziva zabrinutost zagovornika građanskih sloboda. SAD pritom nisu jedini koji istražuju humanoidne vojnike. Autoritarni režimi poput Rusije i Kine također razvijaju slične tehnologije, što Zapad gura u utrku za stvaranje sve učinkovitijih strojeva za ubijanje u ljudskom obliku. “Utrka u naoružanju humanoidnim vojnicima već je počela”, kaže Sankaet Pathak, suosnivač i izvršni direktor Foundationa.

Moderno ratovanje već je uvelike automatizirano – od pametnih mina i sustava proturaketne obrane do laserski navođenih projektila. Ključno pitanje danas glasi: koliko autonomije je previše. Dok tvrtke poput Foundationa razvijaju humanoidne robote s borbenim sposobnostima, paralelno se vodi pravna bitka između obrambenih tehnoloških kompanija i međunarodnih organizacija koje nastoje definirati razinu ljudske kontrole u ratu.

Sustavi autonomnog smrtonosnog oružja “politički su neprihvatljivi i moralno odbojni”, upozorio je prošle godine glavni tajnik Ujedinjenih naroda António Guterres. U međuvremenu je otkriveno i da je Eric Trump, sin Donalda Trumpa, investitor i novi strateški savjetnik u tvrtki Foundation.

“Autonomija je spektar”, objašnjava Bonnie Docherty s Pravnog fakulteta Sveučilišta Harvard. “Tehnologija se brzo kreće prema potpunoj autonomiji, a ozbiljna je zabrinutost kada se odluke o životu i smrti delegiraju stroju.”

Ljudi kao podrška robotima

U Ukrajini, gdje rat koji je pokrenuo Vladimir Putin ulazi u petu godinu s oko 350 tisuća poginulih, taj spektar autonomije već je značajno proširen. LeBlanc kaže da ga je ono što je vidio na terenu šokiralo. “To je potpuno robotski rat, u kojem su roboti glavni borci, a ljudi su podrška”, kaže. “Potpuno suprotno od vremena kada sam bio u Afganistanu – tada su ljudi bili sve, a tehnologija je bila samo pomoćni alat.”

Ukrajina, koja dnevno lansira i do 9000 dronova, postala je najveći svjetski laboratorij za proizvođače oružja koji žele automatizirati dijelove tzv. lanca ubijanja – procesa identifikacije, praćenja i neutralizacije cilja. Među njima je i Foundation, koji želi svoje robote Phantom dovesti na prvu liniju kako bi tehnologiju usavršavao kroz stvarne borbene scenarije.

Ipak, tehnologija ima i ozbiljne nedostatke. Humanoidni roboti su teški i skupi, trebaju redovito punjenje i lako se kvare. Pitanje je kako će funkcionirati u blatu, prašini ili jakim kišama. Pokretanje humanoidnog tijela zahtijeva oko 20 motora, a kvar samo jednog može ga onesposobiti. Osim toga, postoji i sigurnosni rizik: hakirani robo