Sve više ljudi koristi ChatGPT i slične alate kao zamjenu za Google. Istovremeno, klasične tražilice sve češće ugrađuju umjetnu inteligenciju u rezultate pretrage. No stručnjaci upozoravaju da upravo tu nastaje problem.
Velik broj ljudi povremeno koristi AI chatbotove za pretraživanje, a dio se čak oslanja isključivo na njih. Na tržištu se pojavljuje sve više sustava poput ChatGPT-a, Le Chata ili Claudea. I Google i Microsoftov Bing već koriste vlastite modele Gemini i Copilot koji oblikuju prikaz rezultata. Google je u Njemačkoj nedavno predstavio i 'AI način' rada, koji omogućuje razgovor sa samim rezultatima pretrage.
Umjesto ručnog prolaska kroz desetine stranica, korisnik u nekoliko sekundi dobije sažetak s “najvažnijim” informacijama. No tu počinju poteškoće.
Čak 42 % korisnika u anketi priznalo je da im je umjetna inteligencija barem jednom dala netočnu ili izmišljenu informaciju. Prema analizi Europske radiodifuzijske unije (EBU) iz oktobra, 45 % odgovora popularnih chatbotova sadrži značajne greške, u točnosti, navođenju izvora, kontekstu ili razgraničenju činjenica i mišljenja.
EBU je sustavno testirao pouzdanost modela. Ako se gleda samo točnost, ChatGPT je pogriješio u 51,5 % slučajeva, Copilot u 45,4 %, a Gemini u 50 %.
Razloga je više. Chatbotovi često kasne za aktuelnim događajima jer su trenirani na starijim tekstovima, pa kod nepreciznih upita nude zastarjele podatke. Ponekad prenose i nefiltrirane netočnosti s interneta ili pogrešno pripisuju izjave određenim izvorima.
No najveći problem leži u samoj arhitekturi. Ovi alati nisu baze znanja, nego jezični modeli koji statistički procjenjuju koje riječi najvjerojatnije idu zajedno. Zato dolazi do tzv. halucinacija, AI daje odgovor koji zvuči uvjerljivo, ali nije nužno točan.
Problem se dodatno komplicira jer se sve više izvora generira umjetnom inteligencijom. Prema analizi Originality.ai, Googleov AI u više od deset posto slučajeva crpi informacije iz tekstova koje su već napisali drugi modeli.
Sličan trend primijećen je i na Wikipediji. Studija Princetonskog sveučilišta pokazala je da je u augustu prošle godine do pet posto novih članaka na engleskoj Wikipediji sadržavalo AI generirane dijelove niže kvalitete, s manje izvora i ponekad reklamnog tona.
Ipak, modeli se poboljšavaju. EBU navodi da su svi testirani alati napredovali u odnosu na ranije rezultate. Google je predstavio novu verziju Geminija, Gemini 3, a OpenAI je u novembru objavio nadogradnju GPT-5. Tech kompanije ulažu milijarde u rješenja, svjesne problema.
Naučnici sa Univerziteta Ruhr u Bochumu i Max Planck Instituta za softverske sisteme uporedili su tradicionalnu Googleovu pretragu s četiri genAI tražilice. Zaključak je da se AI oslanja na širi skup izvora, ali linkovi koje koristi često nisu među najrelevantnijima.
Iako AI koristi više izvora, to ne znači da su odgovori sveobuhvatniji. Odabir izvora i način na koji modeli koriste “interno znanje” može suptilno utjecati na perspektivu i činjenice koje korisniku prikazuju. Dakle, korisnik dobije sažeti odgovor, ali gubi pouzdane izvore i konzistentnost rezultata.
Zbog svega navedenog, istraživači pozivaju na razvoj novih standarda i mjera za procjenu pouzdanosti AI generiranih odgovora. EBU traži jasne smjernice: chatbotovima se nikada ne smije slijepo vjerovati, a informacije treba uvijek provjeriti.
Stručnjakinja Katharina Zweig kaže: “Prvo pravilo je nemojte ih koristiti kao tražilicu. Jezični modeli samo nižu riječi i nisu zamjena za strukturirane baze podataka. Preporučuje se njihova upotreba tamo gdje ne mogu izazvati štetu, npr. za kreativne procese.”
Pitanje je i dugoročne isplativosti, jer je tehnologija iznimno skupa, zahtijeva ogromno ulaganje u energiju i hlađenje, a korisnici vjerovatno neće biti spremni trajno plaćati rezultate koji još uvijek nisu dovoljno pouzdani.