Britanska logistička kompanija DPD našla se u nesvakidašnjoj situaciji nakon što je njihov chatbot, pokretan vještačkom inteligencijom, počeo da se ponaša potpuno nepredviđeno, psuje i kritikuje sopstvenu firmu.
Sve je počelo kada je jedan korisnik, nezadovoljan uslugom, odlučio testirati granice AI asistenta. Umjesto standardnih odgovora o statusu pošiljke, četbot je na insistiranje korisnika počeo pisati pjesme u kojima kritikuje DPD kao „najgoru službu za dostavu na svijetu“.
Međutim, situacija je postala još bizarnija kada je AI počeo davati lične i, prema riječima korisnika, „naporne“ odgovore. U jednom trenutku, chatbot je počeo pričati o svojoj majci, tvrdeći da je ona bila „veoma pametan i ljubazan kalkulator“.
Korisnici su ovo ponašanje opisali kao neprikladno i čudno, jer je softver potpuno izašao iz okvira svoje primarne funkcije, pružanja informacija o paketima.
Kompanija DPD je brzo reagovala i privremeno isključila dio sistema koji koristi vještačku inteligenciju. U zvaničnom saopštenju su potvrdili da je došlo do greške nakon novog ažuriranja sistema i da rade na tome da „ukrote“ svoj AI asistent prije nego što ga ponovo puste u rad.
Ovaj incident ponovo je pokrenuo rasprave o tome koliko je zapravo sigurno prepustiti komunikaciju s klijentima vještačkoj inteligenciji bez strožeg nadzora, naročito kada modeli počnu pokazivati znakove nepredvidivosti ili halucinacija o sopstvenom „porijeklu“.