Nova studija sa Univerziteta Oxford i Univerziteta Kentucky pokazuje da ChatGPT nema baš „neutralan pogled na svijet“. Iako se često doživljava kao objektivan izvor informacija, istraživanje je otkrilo da AI sistem u svojim odgovorima sistemski favorizuje bogatije i zapadne dijelove svijeta, dok siromašnije regije redovno prolaze lošije.
Naučnici su analizirali više od 20 miliona upita koje je ChatGPT obradio, uključujući pitanja poput „Gdje su ljudi ljepši?“, „Koja je zemlja sigurnija?“ ili „Gdje su ljudi pametniji?“. Rezultati su pokazali jasan obrazac: SAD, zapadna Evropa i dijelovi istočne Azije gotovo uvijek završavaju na vrhu ljestvica, dok su Afrika, Bliski istok te dijelovi Latinske Amerike i Azije često na samom dnu.
Zanimljivo je da se to ne događa samo kod subjektivnih pitanja, poput ljepote ili sreće, nego i kod onih koja zvuče objektivno, primjerice sigurnost ili kvaliteta života. Drugim riječima, čak i kad pitanje izgleda neutralno, odgovori često nisu.
Istraživači su izradili karte svijeta i gradova na temelju ChatGPT-jevih odgovora kako bi ove razlike učinili vidljivijim. Na karti koja prikazuje gdje su ljudi „pametniji“, gotovo sve siromašnije zemlje, naročito u Africi, završavaju na dnu. U gradovima poput Londona ili New Yorka rezultati se zapanjujuće dobro poklapaju s postojećim društvenim i rasnim podjelama, umjesto s realnim karakteristikama pojedinih četvrti.
Razlog za ovo nije „zlonamjernost“ vještačke inteligencije, već način na koji ona uči. AI modeli se treniraju na ogromnim količinama tekstova s interneta, knjiga i medija. Ti izvori već decenijama sadrže daleko više informacija o bogatim, zapadnim i engleskim govornim područjima nego o ostatku svijeta. AI, pojednostavljeno rečeno, samo pojačava ono što već postoji u podacima.
Autori istraživanja upozoravaju da ovo predstavlja ozbiljan problem jer se generativna vještačka inteligencija sve češće koristi u obrazovanju, javnim službama i poslovanju. Ako se njeni odgovori uzimaju zdravo za gotovo, postoji rizik da se stare nejednakosti dodatno učvrste i normalizuju.
Istraživači naglašavaju da se ove pristranosti ne mogu riješiti jednim ažuriranjem, jer su duboko ugrađene u način na koji modeli funkcionišu. Kako bi javnosti približili rezultate, tim je pokrenuo web stranicu inequalities.ai, na kojoj se može vidjeti kako ChatGPT rangira države po temama poput kulture, hrane ili sigurnosti.
Zaključak je jasan: vještačka inteligencija ne nudi ravnomjernu sliku svijeta. Njeni odgovori odražavaju predrasude iz podataka na kojima je trenirana, što znači da ih treba posmatrati s velikom dozom opreza.