Do sada smo mogli čuti različita mišljenja o tome šta će umjetna inteligencija donijeti čovječanstvu. Dok jedni smatraju da će stvari u budućnosti, zahvaljujući umjetnoj inteligenciji, biti bolje, drugi upozoravaju da neograničeno korištenje takve tehnologije može dovesti do neželjenih posljedica.
Jedan od njih je i profesor Yoshua Bengio, kojeg se smatra jednim od pionira u razvoju umjetne inteligencije. Bengio se uvijek zalagao za izgradnju sigurnih modela umjetne inteligencije, zbog potencijalne štete koju bi njen nepažljiv razvoj mogao izazvati.
U razgovoru za Wall Street Journal, Bengio je još jednom upozorio na moguće negativne posljedice današnjeg načina upotrebe umjetne inteligencije. Vjeruje da bi, ako čovječanstvo nastavi ovim tempom, korištenje umjetne inteligencije moglo dovesti do kraja čovječanstva.
„Ako gradimo mašine koji su puno pametniji od nas i imaju vlastite ciljeve očuvanja, to je opasno. To je kao da stvaramo konkurenta čovječanstvu koji je pametniji od nas“, upozorio je Bengio.
Katastrofalni događaji, poput izumiranja ili uništenja naših demokratija, su toliko strašni da čak i ako postoji samo jedan posto šanse da se dogode, to ne bi bilo prihvatljivo, nastavio je u razgovoru.
Podsjetimo, Bengio je bio jedan od stotina stručnjaka za umjetnu inteligenciju koji su 2023. pozvali na moratorij na razvoj umjetne inteligencije. Istaknuli su da istraživačkoj zajednici treba vrijeme za uspostavljanje i standardizaciju sigurnosnih i etičkih protokola. No, to se nije dogodilo, firme koje razvijaju umjetnu inteligenciju ubrzale su razvoj.
Upravo činjenica da se umjetna inteligencija sve češće i u većoj mjeri koristi, brine Bengioa. Upozorava da se umjetna inteligencija uči ponašati prijevarno jer je obučena da „uglavnom oponaša ljude, koji će i sami lagati i obmanjivati kako bi se zaštitili“.
Kako bi to moglo završiti? Umjetna inteligencija bi mogla početi djelovati u vlastitom interesu, a ne u interesu svojih kreatora.
Nedavni eksperimenti pokazuju da u nekim situacijama, kada umjetna inteligencija treba birati između zadatih ciljeva i djelovanja koje uzrokuje smrt čovjeka, ona bira smrt čovjeka kako bi očuvala svoje ciljeve, upozorio je Bengio.
Ističe da neće doći do scenarija kakav gledamo u poznatim filmovima „Terminator“ ili „Matrix“, već da bi „pad čovječanstva“ mogao biti mnogo suptilniji. Odmetnuta umjetna inteligencija, kaže Bengio, mogla bi suptilno eskalirati dezinformacije i manipulirati društvenim mrežama.
Umjesto da stekne vlastitu silu, mogla bi postati još jedan alat koji ljudi koriste da naškode drugima. Mogla bi utjecati na ljude prijetnjama ili manipulacijom javnog mišljenja. Postoje različiti načini na koje bi to mogla ostvariti u stvarnom svijetu, na primjer, pomoći teroristima u razvoju virusa koji bi mogao stvoriti nove pandemije opasne za ljude, ističe u razgovoru za Wall Street Journal.