Iako se već zna da chatbotovi bazirani na umjetnoj inteligenciji ponekad „haluciniraju“, odnosno izmišljaju činjenice, ljudi ih svakodnevno koriste sve više, čak i za važne odluke vezane uz posao, zdravlje ili snalaženje u nepoznatim situacijama.
Novo istraživanje naučnika sa Univerziteta Stanford, objavljeno u časopisu Nature Machine Intelligence, upozorava na ozbiljan problem: AI modeli, uključujući ChatGPT, Google Gemini, Claude, DeepSeek i druge (ukupno 24 testirana sistema), i dalje ne razlikuju jasno šta je činjenica, a šta samo vjerovanje.
U eksperimentu s 13.000 pitanja, većina chatbotova nije razumjela koncept znanja, da ono mora biti istinito i opravdano. Umjesto toga, modeli su često miješali vjerovanja s činjenicama, pa su davali odgovore koji zvuče uvjerljivo, ali nisu tačni.
Drugim riječima, AI često ne zna razliku između “znam” i “mislim da znam”, što može dovesti do širenja dezinformacija.
Najveće greške prave modeli objavljeni prije maja 2024. godine, dok novije verzije imaju tačnost od oko 91% pri razlikovanju istinitih od lažnih tvrdnji. Ipak, istraživači ističu da ni novi modeli ne razumiju stvarnu istinu, već samo predviđaju ono što “zvuči istinito”.
Jedan poznat primjer je kada je Muskov chatbot Grok AI pogrešno napravio plakat britanskih premijera, zamijenio je Rishija Sunaka s Borisom Johnsonom, a za Theresu May napisao da je bila premijerka „od 5747. do 70. godine“.
Greške poput ovih mogu biti posebno opasne u oblastima gdje tačnost spašava živote, poput medicine i pravosuđa.
Zbog toga naučnici upozoravaju da su potrebna ozbiljna poboljšanja AI sistema prije njihove šire upotrebe u takvim visokorizičnim sektorima.