Nakon što su bivši i sadašnji zaposleni u kompaniji OpenAI objavili otvoreno pismo u kojem tvrde da su ušutkivani zbog postavljanja pitanja o sigurnosti, jedan od potpisnika pisma je dao još strašnije predviđanje: da su šanse da će AI uništiti ili katastrofalno naškoditi čovječanstvu veće od bacanja novčića.
U intervjuu za New York Times, bivši istraživač iz OpenAI-ja Daniel Kokotajlo optužio je kompaniju da ignoriše ključne rizike koje predstavlja umjetna opšta inteligencija (AGI) zato što su donosioci odluka toliko oduševljeni njenim mogućnostima.
"OpenAI je zaista uzbuđen zbog izgradnje AGI-ja i bezobzirno se utrkuju da budu prvi na ovom polju", ističe on.
Njegova najoštrija tvrdnja medijima je, međutim, to da šansa da će umjetna inteligencija uništiti čovječanstvo iznosi oko 70 procenata — šanse koje ne biste prihvatili ni za jedan veliki životni događaj.
1/15: In April, I resigned from OpenAI after losing confidence that the company would behave responsibly in its attempt to build artificial general intelligence — “AI systems that are generally smarter than humans.” https://t.co/yzMKnZwros
— Daniel Kokotajlo (@DKokotajlo67142) June 4, 2024
Termin "p(doom)", koji je AI-govor za vjerovatnoću da će AI donijeti propast za čovječanstvo, predmet je stalnih kontroverzi u svijetu mašinskog učenja.
Daniel je rekao za New York Times da je, nakon što se pridružio OpenAI-ju 2022. godine od njega zatraženo da predvidi napredak tehnologije, a on je postao siguran ne samo da će industrija postići AGI do 2027. godine, već da postoji velika vjerovatnoća da će to katastrofalno naškoditi ili čak uništiti čovječanstvo.
Kao što je navedeno u nedavno objavljenom otvorenom pismu, Daniel i njegovi drugovi — što uključuje bivše i sadašnje zaposlene u Google DeepMindu i Anthropicu, kao i Jefreey Hinton, takozvani "Kum umjetne inteligencije" koji je napustio Google prošle godine zbog sličnih zabrinutosti – koriste njihovo "pravo da upozore" javnost na rizike koje predstavlja AI.
Daniel je postao toliko siguran da umjetna inteligencija predstavlja ogromne rizike za čovječanstvo da je na kraju lično pozvao izvršnog direktora OpenAI-ja Sema Altmana, upozorivši ga da bi kompanija trebalo da se "okrene ka sigurnosti" i da provede više vremena na implementaciji zaštite kako bi vladala tehnologijom, a ne da nastavi da je čini pametnijom.
Djelovalo je da se Altman, prema pričanju bivšeg zaposlenog, u to vrijeme slagao sa njim, ali vremenom je to postalo samo "mrtvo slovo na papiru".
Zamoren, Daniel je napustio firmu u aprilu, rekavši svom timu u mailu da je "izgubio povjerenje da će se OpenAI ponašati odgovorno" dok nastavlja da pokušava da izgradi umjetnu inteligenciju koja je skoro na nivou čovjeka.
"Svijet nije spreman, ni mi nismo spremni", napisao je on u svom mailu, koji je podijeljen sa New York Times-om.
