U Belgiji je nedavno pokrenuta debata o upotrebi vještačke inteligencije nakon što je Petra de Sutter, rektorka Univerziteta u Gentu, koristila vještačku inteligenciju da napiše svoj uvodni govor za akademsku godinu prošlog septembra. Njen tekst je sadržavao greške i dva izmišljena citata, što je fenomen poznat kao „halucinacija“, prenio je belgijski javni servis RTBF.
Prema Petri de Sutter, Albert Einstein je navodno rekao: „Dogma je neprijatelj napretka“. Problem je u tome što naučnik nikada nije izgovorio ovu rečenicu. Radi se o halucinaciji, lažnoj informaciji koju umjetna inteligencija predstavlja kao istinitu.
Zamislite da koristite ChatGPT za pisanje govora i tražite citat Alberta Einsteina na temu napretka. Moguća su dva scenarija: ili će vam ponuditi pravi citat, ili će proizvesti „vjerovatan“ citat, nešto što Einstein nije rekao, ali statistički zvuči kao nešto što bi on mogao reći.
Hugues Bersini, profesor i direktor laboratorije za vještačku inteligenciju na jednom belgijskom univerzitetu, objasnio je ovaj fenomen.
„Vještačka inteligencija je kombinovala Einsteinove citate kako bi stvorila novi koji ima smisla. Statistički gledano, Einstein je to mogao reći. ChatGPT kombinuje riječi koje su često povezane. Ali, naravno, ovaj citat je lažan jer ga on nikada nije izgovorio“, rekao je Bersini.
Kada kažemo da citat „ima smisla“, to znači da je riječ o statističkoj konstrukciji. AI spaja različite riječi koje su dio rječnika određene osobe, ali redoslijed tih riječi u stvarnosti ne postoji. U svijetu citata, prema riječima profesora Bersinija, ovo je fatalna greška.
„To je nešto što se apsolutno mora provjeriti. Ako ste rektor univerziteta, morate se pridržavati etičkog kodeksa u vezi sa znanjem. Vjerodostojnost citata se može dokazati uz svega nekoliko klikova na pretraživaču“, upozorava Bersini.
Giganti vještačke inteligencije pokušavaju smanjiti ove halucinacije. U nekim oblastima, one praktično ne postoje:
Egzaktne nauke: U programiranju i matematici rječnik je ograničeniji, pa AI funkcioniše veoma dobro.
Humanističke nauke: Mnogo je komplikovanije kod pisanja romana, eseja, filozofskih tekstova ili govora. Riječi su raznovrsnije i imaju višestruka značenja, zbog čega je potreban dodatan oprez.
Nesretno iskustvo Petre de Sutter služi kao važan podsjetnik. Vještačka inteligencija nas može prevariti. Ona pravi lapsuse jer je apsorbovala ogromnu količinu tekstova, što je svojstveno i ljudskoj prirodi. Ključna razlika je u tome što ljudi razumiju koncept istine i laži, dok vještačka inteligencija to ne razumije. Ona ne provjerava svoje izvore.
„Na vama je da pažljivo obradite informacije koje prikupite i da u svakom trenutku vježbate svoje kritičko razmišljanje“, zaključio je Bersini.