Sve veća upotreba autonomnog oružja dovodi do razvoja autonomnog nuklearnog oružja. Rusija već planira jedno takvo oružje, nuklearni torpedo Poseidon, a moglo bi ih uslijediti još više. "Jasna, svijetla linija" mora se povući oko nuklearnog oružja kako bi se osiguralo da ono uvijek ostane pod ljudskom kontrolom, navodi Bulletin of the Atomic Scientists.
Međunarodna zajednica se mora udružiti kako bi zabranila korištenje autonomnog nuklearnog oružja prije nego što bude prekasno, tvrdi vodeća grupa za kontrolu naoružanja.
Autonomne nuklearne bombe mogle napraviti greške koje se ljudima ne mogu desiti, kaže Bulletin of the Atomic Scientists - neprofitna organizacija sa sjedištem u Chicagu koju čine naučnici i stručnjaci za globalnu sigurnost - u nedavnoj objavi. Programi umjetne inteligencije (AI) koji vode ovo oružje su neiskusni u donošenju čak i relativno jednostavnih odluka bez ljudi. Rješenje je, navodi Bilten, uvijek držati nuklearno oružje pod potpunom ljudskom kontrolom.
Od početka su nuklearno naoružane države poput Sjedinjenih Država i Rusije uvijek držale nuklearno oružje pod strogom ljudskom kontrolom. Ljudi su 1945. godine donijeli odluku o upotrebi nuklearnog oružja protiv gradova Hirošime i Nagasakija. Ljudi su dali naredbu za punjenje bombi na bombardere B-29 Superfortress. Ljudi su upravljali bombarderima do svojih ciljeva, i na kraju su bacili bombe. Na svakom koraku, ljudi su donosili odluke koje su slale bombe do svojih ciljeva sve dok svaka nije eksplodirala s temperaturom od milion stepeni i snagom od 15.000 do 21.000 tona TNT-a.
Danas, većina nuklearnog oružja – od kopnenih interkontinentalnih balističkih projektila (ICBM) do strateških bombardera – slijedi isti opći put kojem je potrebno ljudsko odobrenje (uz neke iznimke). "Tokom Hladnog rata, države su također razvile nuklearne nagazne mine koje su se mogle autonomno detonirati, uz mehanizme koji su mogli uzrokovali masovnu autonomnu detonaciju."", kaže Zachary Kallenborn, analitičar za oružje za masovno uništenje, za Popular Mechanics.
Druga vrsta autonomije je način na koji serija taktičkih nuklearnih bombi B61 delegira odluku o detonaciji sigurnosnim sistemima kako bi se spriječila neovlaštena upotreba. Čak i nakon što čovjek izda naredbu za detonaciju, B61 prolazi kroz niz provjera kako bi se osiguralo da su ispunjeni brojni kriteriji, uključujući stvarno pričvršćivanje na avion, prenošenje na visinu, a zatim puštanje na očekivanu silaznu putanju. Provjere se provode kako bi se osiguralo da bombu ne detoniraju, na primjer, teroristi na čamcu u rijeci Delaware. Razlika je u tome što je autonomija ugrađena u B61 dizajnirana samo da spriječi eksploziju bombe nakon što je ljudsko biće dalo naredbu da eksplodira.
Kako se ljudi navikavaju na umjetnu inteligenciju, mogli bi doći u iskušenje da nuklearnom oružju dodijele veću autonomija. Umjetna inteligencija bi se mogla osposobiti da uzvrati u slučaju nuklearnog napada, odvraćajući protivnike da eliminiraju ljudski lanac zapovijedanja. Umjetna inteligencija bi također mogla prepoznati i napadati mete dok ih detektuje, uništavajući ICBM montiran na voz, na primjer, prije nego što se može lansirati.
Kallenborn, pišući za The Bulletin of Atomic Scientists, napominje da su umjetna inteligencija i njeni temelji, posebno mašinsko učenje, u ovom trenutku užasno neadekvatni za delegiranje nuklearne kontrole. Većina mašinskog učenja uključuje proučavanje stotina hiljada, ako ne i miliona događaja kako bi se stvorio informirani proces donošenja odluka. Ali umjetna inteligencija ima za proučavanje samo dva događaja, Hirošimu i Nagasaki.
Umjetna inteligencija također bi bio rizik i u drugim situacijama, piše Kallenborn. "Ako bi neka zemlja zapravo tražila nuklearni rat, mogla bi prvo prevariti sistem umjetne inteligencije, čineći ga beskorisnim." Ili, teroristička grupa može prevariti protivničku umjetnu inteligenciju da započne nuklearni rat, dajući joj netačne podatke ili koristeći "sisteme bez posade ili emitera" kako bi je prevarila da povjeruje da je nuklearni napad neizbježan.
U međuvremenu, Rusija razvija autonomnu bezposadnu podmornicu Poseidon. Plovilo veličine autobusa putuje brzinom od 70 čvorova na sat, ima termonuklearnu bojevu glavu od dva megatona i dizajnirano je za lansiranje protiv nosača aviona i obalnih ciljeva. Američka mornarica opisuje Posejdona kao autonomnog, napominje Kallenborn, ali nije jasno koliku autonomiju zapravo ima. Bez obzira na to, autonomni sistem koji isporučuje oružje eksplozivne snage od dva miliona tona TNT-a trebao bi svima izazvati nelagodu.
"Dok države i globalna javnost raspravljaju o tome kada bi strojevima trebalo dopustiti da ubijaju, oko nuklearnog oružja treba povući jasnu, svijetlu liniju", kaže Kallenborn za Popular Mechanics. "Čovjek bi uvijek trebao donijeti odluku o oslobađanju katastrofalnog uništenja.
– Barem kad svi budemo mrtvi, imat ćemo nekoga kriviti, zaključio je on.
