Papa Lav XIV. objavio je u ponedjeljak, 25. maja, svoju prvu encikliku pod naslovom “Magnifica humanitas” (“Veličanstvena čovječnost”), koja se bavi očuvanjem ljudske osobe u doba umjetne inteligencije.
Papa je dokument zvanično potpisao 15. maja, na 135. godišnjicu objave enciklike “Rerum novarum” pape Lava XIII., a odmah nakon toga odobrio je i osnivanje Međudikasterijske komisije za umjetnu inteligenciju u Vatikanu.
Na predstavljanju enciklike učestvovao je i Christopher Olah, suosnivač kompanije Anthropic i voditelj istraživanja o interpretaciji AI, koji se ranije našao u sukobu s Pentagonom jer nije želio administraciji odobriti neograničenu kontrolu nad svojim AI sistemom u vojne svrhe.
Tehnologija nije neutralna i mora biti pod javnim nadzorom
U dokumentu podijeljenom na pet poglavlja, papa Lav XIV. ističe da tehnologija nije po svojoj prirodi zla, ali naglašava da ona nikada nije neutralna jer poprima karakteristike onih koji je osmišljavaju, finansiraju i regulišu.
Papa upozorava na opasnost koncentracije tehnološke moći u rukama nekolicine ljudi, što produbljuje jaz u društvu. Prema njegovim riječima, socijalna pravda u digitalno doba zahtijeva pravedan pristup tehnologiji, zaštitu najranjivijih, borbu protiv dezinformacija, te podvrgavanje vještačke inteligencije javnom nadzoru kako vodeći princip ne bi bio isključivo profit, već ljudsko dostojanstvo.
Istina kao zajedničko dobro i prijetnja totalitarizma
U četvrtom poglavlju Papa upozorava na opasnost od stvaranja iskrivljenih narativa i brisanja granica između istine i neistine pomoću moćnih tehnoloških alata. On naglašava da ravnodušnost prema istini i prevlast pragmatizma slabe demokratski život i vode ka totalitarizmu.
Pozivajući se na filozofkinju Hannah Arendt, Papa podsjeća da su idealni podanici totalitarnih režima upravo oni ljudi za koje razlika između činjenica i fikcije više ne postoji.
"Normalizacija rata" i stroga ograničenja za vojsku
Posebno dramatičan dio enciklike odnosi se na upotrebu vještačke inteligencije u vojnoj industriji. Papa oštro kritikuje povratak rata kao instrumenta međunarodne politike i pojavu autonomnih sistema naoružanja koji rat čine "izvodljivijim" i manje podložnim ljudskoj kontroli.
Istakao je da se donošenje smrtonosnih ili nepovratnih odluka nikada ne smije povjeriti mašinama, jer etika nije odlika algoritama, a moralni sud zahtijeva savjest i ličnu odgovornost. Vještačka inteligencija, kako navodi Papa, ne uklanja nehumanost sukoba, već ga samo ubrzava, čini impersonalnijim i svodi ljudske žrtve na obične podatke.