Umjetna inteligencija (AI) sve više pomaže kompanijama, istraživačima i stručnjacima u pisanju tekstova, analizi podataka, istraživanju i programiranju. Međutim, njen nagli razvoj donosi i ozbiljne rizike – od izmišljenih izvora i netačnih citata do pogrešnih izvještaja koji mogu imati stvarne posljedice.
Gotovo polovina odgovora AI chatbotova sadržavala je probleme
Nedavno izvješće konsultantske kuće KPMG o globalnoj primjeni umjetne inteligencije u kompanijama sadržavalo je studije slučaja zasnovane na takozvanim AI halucinacijama, objavio je Financial Times, prenosi tagesschau.
Prema istraživanju Evropske radiodifuzne unije (EBU), čak 45 posto odgovora chatbotova u oktobru 2025. godine imalo je „značajne“ nedostatke, bilo u tačnosti, navođenju izvora, kontekstu ili razlikovanju činjenica od mišljenja.
Iako su se mnogi AI modeli u međuvremenu poboljšali, greške su i dalje moguće. Osim toga, odgovori o aktuelnim temama mogu biti zastarjeli jer se neki modeli temelje na starijim podacima.
Problem predstavlja i činjenica da AI ponekad nekritički preuzima dezinformacije s interneta ili pogrešno pripisuje informacije određenim izvorima.
Sve više interneta stvara umjetna inteligencija
Dodatni problem je što se i sami izvori koje AI koristi sve češće stvaraju pomoću umjetne inteligencije.
Istraživači s Imperial Collegea u Londonu, Univerziteta Stanford i organizacije Internet Archive analizirali su internet sadržaj i zaključili da je do sredine 2025. godine oko 35 posto novih web stranica bilo u potpunosti generirano AI-em ili djelimično napravljeno uz njegovu pomoć.
Zbog toga slučaj KPMG-a nije usamljen.
Sličan problem dogodio se i u kompaniji EY Kanada, gdje su konsultanti napravili studiju čiji su izvori pronađeni uz pomoć AI-ja bili netačni ili nisu postojali.
Izmišljeni izvori i citati u profesionalnim izvještajima
Deloitte u Australiji prošle godine morao je ispraviti analizu programa socijalne pomoći jer je sadržavala nepostojeće izvore i citate. Posebno je problematično što je dokument bio izrađen za Ministarstvo rada i zapošljavanja.
Stručnjaci smatraju da nije slučajno što se takvi problemi pojavljuju upravo u konsultantskom sektoru, jer je to jedno od područja koje AI najviše mijenja.
„Vidimo da ovaj sektor koristi umjetnu inteligenciju iznad prosjeka, kako kroz službeno uvođenje tehnologije tako i kroz njeno korištenje od strane zaposlenika“, objašnjava Oliver Schlenker iz instituta ifo.
AI modeli mogu brzo obaviti rutinske zadatke poput prikupljanja informacija i pisanja izvještaja, ali brzina ne znači nužno kvalitet.
Najveći problem je nedostatak provjere
„Na prvi pogled izgleda da postoji ogroman dobitak u produktivnosti jer se izvještaj koji je ranije zahtijevao dvije sedmice sada može napraviti veoma brzo. Ali to ne znači automatski da je posao dobro urađen“, upozorava Schlenker.
Ključni problem ostaje ljudska kontrola.
„Postoje istraživanja koja pokazuju da se radni zadaci mijenjaju – od samog izvršavanja prema nadzoru rada umjetne inteligencije“, kaže stručnjak.
Međutim, upravo taj nadzor često nedostaje.
AI se širi kroz cijelo gospodarstvo
Prema istraživanju instituta ifo, više od 54 posto kompanija u Njemačkoj već koristi umjetnu inteligenciju u poslovanju.
Podaci Instituta za istraživanje tržišta rada (IAB) pokazuju da dvije trećine zaposlenih u Njemačkoj koristi AI na neki način.
Ipak, samo trećina korisnika dobila je službenu podršku i obuku od poslodavaca.
Stručnjaci to nazivaju „shadow AI“, korištenje umjetne inteligencije bez jasnih pravila i edukacije, što može dovesti do ozbiljnih grešaka.
Prema istraživanju kompanije Dataiku, čak 76 posto njemačkih menadžera za upravljanje podacima suočilo se tokom prošle godine s poslovnim problemima izazvanim AI halucinacijama.
Problem se širi i u nauci
Umjetna inteligencija predstavlja izazov i akademskom svijetu.
Njemački mediji upozoravaju da tržište preplavljuju knjige i publikacije koje su djelimično napisane pomoću AI-ja.
Sve je veći i broj lažnih referenci u naučnim radovima.
Istraživači sa Univerziteta Cornell i Kalifornijskog univerziteta analizirali su 2,5 miliona naučnih radova i pronašli gotovo 150.000 citata koje su izmislili jezički modeli.
Profesor umjetne inteligencije Björn Ommer smatra da odgovornost uvijek ostaje na autorima.
„Bez obzira koristim li umjetnu inteligenciju ili računar za obradu podataka, ja kao autor odgovaram za konačni rezultat“, rekao je.
Studenti znaju za rizike AI-ja
Centar za akademsko pisanje Univerziteta Goethe u Frankfurtu anketirao je više od 4.000 studenata u Njemačkoj o korištenju umjetne inteligencije.
Studenti AI najčešće koriste za pronalaženje informacija, pretraživanje literature i pomoć pri učenju.
Većina njih svjesna je da AI može griješiti i stvarati netačne informacije.
„Studenti jasno znaju da umjetna inteligencija može halucinirati i da joj se ne može potpuno vjerovati“, rekla je Nora Hoffmann, voditeljica centra.
Opasnost od pada kvaliteta i krađe ideja
Profesorica Nina Kolleck sa Univerziteta u Potsdamu upozorava da bi masovno korištenje AI-ja moglo dovesti do pada kvaliteta naučnog rada.
„Postoji trend prema kojem sve postaje brže, površnije i pliće“, kaže ona.
Najveću opasnost vidi u sve češćem preuzimanju tuđih ideja.
„Dok neki ljudi ulažu vrijeme u istraživanje i analizu, drugi samo uzmu materijale drugih autora i ubace ih u umjetnu inteligenciju.“
Zbog toga postaje sve teže prepoznati plagijat.
AI treba koristiti odgovorno
Stručnjaci naglašavaju da rješenje nije odbacivanje umjetne inteligencije.
AI može biti veoma koristan alat za analizu velikih količina podataka, pronalaženje grešaka i razvoj novih tehnologija.
Ali bez ljudske provjere i jasnih pravila postoji rizik da će brzina zamijeniti kvalitet.
Umjetna inteligencija može pomoći ljudima da rade bolje – ali samo ako se koristi odgovorno.