Scena u Oppenheimeru Christophera Nolana povezana je s zabrinutošću nekih naučnika Projekta Manhattan da će prvi test atomske bombe zapaliti Zemljinu atmosferu.
Edward Teller, kako kaže priča, prvi je iznio tu mogućnost 1942. Raspravljalo se o tome koliko je to ozbiljno shvaćeno, ali to je dovoljno animiralo naučnike da skrate brojke, zaključivši da je spaljivanje planete "malo vjerovatno".
Pirotehnički strahovi ove vrste, međutim, decenijama su prethodili ozbiljnim naporima da se naprave nuklearne bombe, vraćajući se u vrijeme kada se pucanje atoma mnogima činilo čistom naučnom fantastikom. Iako analogije između umjetne inteligencije i nuklearnog oružja mogu biti prenategnute, način na koji je ova zabrinutost prešla od besposlene spekulacije do ozbiljne zabrinutosti može nas naučiti lekcijama u vezi sa strahovima koji se vrte oko današnjih tehnologija u nastajanju, piše BBC.
Davno je rimski prirodoslovac Plinije Stariji primijetio da je, s obzirom na svu zapaljivu tvar, svakodnevno čudo da kugla ne gori. Ali dugo su svi pretpostavljali da su – iako predmeti mogu gorjeti – atomi od kojih su napravljeni stabilni, čvrsti i neuništivi. Kada je, na početku 1900-ih, Marie Curie svijetu otkrila radioaktivnost, to se promijenilo preko noći.
Curiejeva otkrića neočekivano su pokazala titanski rezervoar energetskih izvora, zaključan u podrumu materije. Dok se raspadaju, radioelementi oslobađaju ovo unutarnje bogatstvo. Ali svi atomi, smatralo se, sadrže takve veličine. Ta su otkrića, primijetio je 1905. afroamerički naučnik C. H. Turner, bila "ikonoklastička".
Nagoveštavajući da je ovozemaljska materija – čak i podzemna ruda – napunjena začepljenom energijom, to je odmah sugeriralo naučnicima da bi naš planet mogao biti više poput "skladišta" dinamita nego zdrave nastambe.
Početkom 1903. godine, Frederick Soddy, jedan od utemeljitelja nuklearne fizike, napisao je da je sve što je potrebno bio naučnik koji je petljao da naleti na "prikladni detonator" i lančanom reakcijom zapali "skladište". To je došlo u zaključku jednog eseja, dok je dostizao crescendo, pokušavajući zadiviti svoje čitatelje. (Soddy je imao ukus za uzvišeno i dramatično.)
Prijedlozi da bi planete mogli eksplodirati sežu još u doba prosvjetiteljstva, kada su astronomi počeli tražiti objašnjenja za nenormalno veliki jaz između Marsa i Jupitera: zjapeći ponor upadljivo ispunjen krhotinama. Bez obzira na to, nijedna poznata sila ne bi mogla rasprsnuti planetarno tijelo. Radioaktivnost, pretpostavio je Soddy 1903., mogla bi to promijeniti.
Nedugo nakon Soddyjevih komentara, njegov istraživački partner Ernest Rutherford ispustio je slične zvukove koji su prenijeti u istaknutim časopisima. Svaka "budala", koju je Rutherford navodno "razigrano" potaknuo, "u laboratoriju", mogla bi "nenadano raznijeti svemir". Soddy je ubrzo progovorio kako je neko stavio ruke na "polugu" koja bi mogla "uništiti Zemlju".
Bilo je to u vrijeme krajnje nezrelosti nuklearne fizike. Nauka je bila stara jedva više od godinu dana. Takvi komentari su stoga bili neutemeljene pretpostavke: više retorički bljesak nego ozbiljna hipoteza. Bilo je to gotovo kao da se Soddy i Rutherford hvale, pokušavajući usaditi osjećaj poštovanja i privući pažnju na svoje novo područje.
Zaista, drugdje su se drugi istraživači naizgled takmičili u iznošenju sve neobičnijih tvrdnji, upoređujući jednu granulu urana, u njenoj latentnoj moći, s koliko god tona TNT-a. Takvi su procvat bili činovi naučne predstave: pokušaj zadiviti i preplašiti javnost u pogledu moći i opasnosti njihove prometejske profesije. Soddy i Rutherford nisu se bojali koristiti jezive, šokantne slike da bi to učinili.
Odatle se motiv uhvatio, zaživio vlastitim životom. Krajem 1903. novine su već izvještavale o "dodiru ključa" koji bi lančanim putem mogao "raznijeti cijelu Zemlju". Takve su se tvrdnje provukle i na kraju proširile kroz naučnu zajednicu i medije. Novine su govorile o "ogromnom požaru", o Zemlji koja bukti "u plamenu".
Godine 1909. irski geolog John Joly dodao je novi sastojak stvaranju mita. Sugerirao je da bi to moglo objasniti nove zvijezde koje s vremena na vrijeme bljesnu na noćnom nebu. Možda su to daleke planete, nagađali su drugi, koji prolaze kroz nesreće izazvane atomskim djelovanjem. Pretpostavljalo se da bi "izljevi vidljivi u zvijezdama" mogli biti rezultat "kozmoklastičnih eksplozija" izazvanih naučnim petljanjem vanzemaljskih civilizacija.
Kako su godine prolazile, ozbiljni naučnici nastavili su se udvarati toj pretpostavci. Hemičar Walter Nernst 1921. uporedio je čovječanstvo s kolonijom stvorenja koja žive na kugli baruta, a koja će nestati istog trenutka kada im "Prometej pruži baklju". Zamah motivu dali su i šarlatani. Godine 1924. jedan inžinjer sa Univerziteta Sheffield hvalio se da će uspješno razbiti atome. (Bio je dobar u samopromociji: ranije se pojavljivao u novinama zbog izuma "zrake smrti".) Lokalni novinari su to učinili senzacionalističkim, izvještavajući da bi njegovi eksperimenti mogli "ispariti" ne samo Sheffield nego i cijeli Svemir. Inžinjer je primio prestravljena pisma u kojima su ga molili da ne nastavi. "Da ste oženjen čovjek s djecom", pisalo je u jednoj poslanici, "možda ne biste bili toliko zainteresirani za moguće uništenje ljudske rase".
Takve jezive pretpostavke poprimile su drugačiji ton u narednim desetljećima, kako je nuklearno oružje postupno prerastalo u konkretan pothvat i, na kraju, u tragičnu stvarnost. Postalo je krajnje neukusno šaliti se o tome kako bi spaljivanje Zemlje moglo zadovoljiti "kupače sunca na plažama Marsa". Ipak, različiti intelektualci, uključujući Carla Junga, nastavili su spominjati teoriju da su nove daleki atomski testovi koji su pošli po zlu. Časopis Science čak je objavio članak o tom pitanju u junu 1946., uoči američkih poslijeratnih testova na atolu Bikini. Navedeno je da nisu samo "ne-naučnici" "uznemireni izgledima" planetarnog paljenja.
Šta uzeti iz svega ovoga? Prije svega, pokazuje da se Tellerovi strahovi, kao i strahovi njegovih kolega iz Projekta Manhattan, nisu spontano pojavili u vakuumu.
Savršeno je moguće da bi doživjeli svoj strah, bez obzira na to, da niko prije nije zamislio slične katastrofe. Također je moguće da je njihova pažnja tamo privukla jer je motiv "detonacije" tako duboko ušao u kulturnu svijest. Ali to je ovisilo, vrlo vjerovatno, o šali koju je Soddy odsutno izrekao četiri decenije prije. Tada je Soddy ovu bombastičnu dosjetku temeljio na nimalo ozbiljnog uvida; proizašlo je uglavnom iz njegove želje da promovira svoje novo polje taktikom šoka.
Lako ga je mogao ne uključiti. Možda, da nije, ili da Rutherford to nije proširio, ne bi se ukorijenilo na način na koji je; možda da je tako, onda ne bi dobio zamah ili istaknutost da privuče Oppenheimerovu pažnju.
Naši strahovi nisu uvijek samo proizvod čistog razuma. Oni su također proizvodi određenih prošlosti, gdje se neki motivi ukorijenjuju u razgovoru, a drugi se zanemaruju, na načine koji ovise o hiru i slučaju. Tema može postati zaključana u našoj svijesti, isključivo kroz samoojačavanje kumulativne familijarnosti, mnogo prije nego što postoji bilo kakvo ozbiljno istraživanje koje bi to potvrdilo.
Sadašnje tjeskobe također će biti oblikovane na ovaj način, motivima koje nasljeđujemo jer su prije cvjetali, često iz razloga koji nemaju mnogo veze sa samom racionalnošću. Ovo je razlog za pažljivo ispitivanje – ali nikako za ishitreno odbacivanje – kada su u pitanju današnji scenariji propasti umjetne inteligencije koji zvuče neobičnije. Na kraju krajeva, slučaj nuklearnog straha također pokazuje kako spekulativni bugaboo može prijeći iz naučne fantastike u konkretnu stvarnost mnogo brže nego što mnogi očekuju. Godine 1929., na primjer, dobitnik Nobelove nagrade Robert Millikan napisao je da energija dostupna razbijanjem atoma može "možda biti dovoljna da održi čovjeka od kikirikija ili kokica", ali "to je sve". Mnogi drugi su najavili da takva energija jednostavno nikada neće doći.
Niko nije jasno predvidio prizemnije opasnosti koje je nuklearna eksplozija najavljivala u praksi. Unatoč tome, moramo ostati oprezni na načine na koje kulturni ukusi mogu iskriviti naše prognoze i strahove. Karizmatične vizije globalnog požara stigle su i spremno se proširile za rane špekulante, ali niko nije jasno predvidio prizemnije opasnosti koje je nuklearna eksplozija najavljivala u praksi. Odnosno, u obliku ispadanja; ozračeni pepeo koji doslovno pada na Zemlju, n od čijeg štetnog nasljeđa još uvijek trpe zajednice – često marginalizirane – danas.
Možda je lekcija za AI da dramatični rizici trebaju privući našu pažnju, ali isto tako trebaju i oni opipljiviji koji manje privlače pažnju. Nijedno ne bi trebalo poništiti jedno drugo, pogotovo kada je – ponovno – naš svijet možda u pitanju.
