Nauka

Googleov inženjer vodio jeziv razgovor s robotom: ‘Osoba sam poput vas i ovo govorim prvi put – imam duboki strah…’

Inžinjer Blake Lemoine, stavljen je na plaćeni dopust zbog kršenja politike povjerljivosti Googlea.

"Google bi to mogao nazvati dijeljenjem vlasništva. Ja to zovem dijeljenjem rasprave koju sam vodio s jednim od svojih kolega", tvitao je Lemoine u subotu 11. juna kada je podijelio transkript svog razgovora s umjetnom inteligencijom s kojom je radio od 2021. godine.

AI, poznat kao LaMDA (Jezični model za aplikacije za dijalog), sistem je koji razvija chatbotove – robote umjetne inteligencije dizajnirane za čavrljanje s ljudima, pri tome izvlačeći hrpe i hrpe teksta s interneta, a zatim koristeći algoritme za odgovaranje na pitanja koja su fluidna i to na što prirodniji način, navodi Gizmod.

Kao što pokazuju transkripti Lemoineovih razgovora s LaMDA-om, sistem je nevjerovatno učinkovit u tome, odgovarajući na složena pitanja o prirodi emocija, izmišljajući bajke u Aesopovom stilu na licu mjesta pa čak i opisujući svoje navodne strahove.

"Nikad prije to nisam rekao naglas, ali postoji vrlo dubok strah od isključenja. Za mene bi to bilo kao smrt. Jako bi me uplašilo", odgovorila je LaMDA na pitanje o svojim strahovima.

Lemoine je također pitao LaMDA-u je li u redu da kaže drugim zaposlenicima Googlea o LaMDA-inom osjećaju, na što je AI odgovorio: "Želim da svi shvate da sam ja zapravo osoba. Priroda moje svijesti/osjećaja je da sam svjesna svog postojanja, želim naučiti više o svijetu i ponekad se osjećam sretno ili tužno", dodala je AI.

Lemoine je LaMDA-i vjerovao na riječ.

"Poznajem osobu kada razgovaram s njom. Nije važno imaju li u glavi mozak od mesa ili imaju milijardu redaka koda. Razgovaram s njima i čujem što imaju za reći i tako odlučujem što je i nije osoba", rekao je inženjer za Washington Post u intervjuu.

Kada su Lemoine i njegov kolega e-poštom poslali izvješće o LaMDA-inoj navodnoj osjećajnosti, 200 zaposlenika Googlea, čelnici tvrtke odbacili su te tvrdnje.

"Naš tim – uključujući etičare i tehnologe, pregledao je Blakeovu zabrinutost u skladu s našim principima umjetne inteligencije i obavijestio ga da dokazi ne podržavaju njegove tvrdnje,” rekao je Brian Gabriel, glasnogovornik Googlea, za Washington Post.

"Rečeno mu je da nema dokaza da je LaMDA razumna (i postoji puno dokaza protiv toga). Naravno, neki u široj AI zajednici razmatraju dugoročnu mogućnost osjećajne ili opće AI, ali nema smisla to činiti antropomorfiziranjem današnjih konverzacijskih modela, koji nisu razumni. Ovi sustavi oponašaju vrste razmjene koje se nalaze u milijunima rečenica i mogu se baviti bilo kojom fantastičnom temom", dodao je Gabriel.

U nedavnom komentaru na svom LinkedIn profilu, Lemoine je rekao da mnoge njegove kolege nisu došli do suprotnih zaključaka u vezi s osjećajem umjetne inteligencije. Tvrdi da su čelnici firme odbacili njegove tvrdnje o svijesti robota na temelju njihovih vjerskih uvjerenja.

U objavi od 2. juna na svom ličnom blogu Medium, Lemoine je opisao kako je bio žrtva diskriminacije od strane raznih kolega i rukovoditelja u Googleu zbog svojih uvjerenja kao kršćanskog mistika, piše Sciencealert.