Prošlog mjeseca više od 50 američkih sudskih slučajeva navodilo je lažne pravne izvore generisane umjetnom inteligencijom.
Advokati su gubili predmete, bili suspendovani i morali su obavještavati sudove, sve zato što je njihova umjetna inteligencija samouvjereno izmišljala odgovore koji su izgledali vjerodostojno. Pravna tehnologija je samo vrh ledenog brijega.
U svim industrijama gotovo polovina rukovodilaca priznaje da donosi velike odluke na osnovu izmišljenog sadržaja, a 70% AI projekata propada, ne zato što je umjetna inteligencija loša, već zato što kompanije biraju pogrešne modele za svoj slučaj upotrebe. Ukupni gubici dosegnuli su više od 67 milijardi američkih dolara samo u 2024. godini.
Visokoprecizni modeli poput GPT-5 i Geminija impresivni su, ali haluciniraju uvjerljivo, što predstavlja ogroman rizik za proizvodnju, usklađenost i sigurnosno kritične aplikacije. Pouzdani modeli poput Claudea žrtvuju neke mogućnosti u zamjenu za nivo povjerenja koji preduzećima zaista treba.