Iako se najnoviji modeli umjetne inteligencije, poput OpenAI-jevih GPT-3 i o4-mini, hvale sposobnošću da „razmišljaju korak po korak“ i daju složene odgovore, istraživanja su pokazala da često kreiraju netačne informacije – poznate i kao „halucinacije“.
OpenAI je otkrio da GPT-3 pravi greške u čak trećini testova koji se odnose na poznate ličnosti, dok o4-mini griješi u skoro polovini takvih zadataka. Kada je riječ o opštim pitanjima, stopa halucinacija dostiže i do 79% slučajeva.
Stručnjaci navode da „razumski“ modeli – koji povezuju više informacija i daju detaljne odgovore – imaju veći rizik od grešaka, jer često improvizuju umjesto da se oslanjaju isključivo na tačne podatke.
OpenAI upozorava da modeli možda samo djeluju sigurnije i uvjerljivije dok daju odgovore, ali to ne znači da su ti odgovori tačni. Problem postaje ozbiljan kada se AI koristi u obrazovanju, pravu i drugim osjetljivim oblastima, gdje greške mogu imati ozbiljne posljedice.
AI modeli, poput ChatGPT-a, ponekad zvuče samouvjereno dok šire netačne informacije – zbog čega je važno da korisnici uvijek provjeravaju činjenice.