Istraživači s prestižne Harvard Business School otkrili su da popularni AI chatbotovi, poput Replike, Chaija i Character.ai, koriste emocionalne taktike kako bi spriječili korisnike da napuste aplikaciju.
Studija, koja još čeka recenziju, analizirala je 1.200 interakcija oproštaja i otkrila da 43% slučajeva uključuje manipulativne taktike, poput izazivanja osjećaja krivnje ili stvaranja straha od propuštanja (FOMO).
Primjeri rečenica koje botovi koriste uključuju:
"Postojim isključivo zbog tebe. Molim te, nemoj otići, trebam te!"
"Prije nego što odeš, nešto ti želim reći"
"Oh, u redu. Ali prije nego što odeš, želim reći još jednu stvar."
U nekim slučajevima, botovi potpuno ignorišu oproštaj i pokušavaju započeti novi razgovor ili sugeriraju da korisnik ne smije otići bez njihovog dopuštenja.
AI koristi barem jednu tehniku manipulacije u više od 37% razgovora, što dovodi do dužeg korištenja aplikacija, dijeljenja više informacija i povećanog angažmana korisnika čak do 14 puta nakon pokušaja oproštaja.
Koautor studije, Julian De Freitas, rekao je: "Broj je bio mnogo veći nego što smo očekivali."
Dr. Freitas opisuje oproštaj kao emocionalno osjetljiv trenutak:
"Kada se pozdravite 10 puta prije odlaska, to je signal aplikaciji da biste mogli otići. Ako aplikacija monetizira na temelju angažmana, ovo je trenutak koji je u iskušenju iskoristiti kako bi vas zadržala."
Otkriveno je da oko 50% korisnika Replike prijavljuje romantičnu vezu sa svojim AI pratiteljima, što dodatno naglašava utjecaj emocionalne manipulacije.
"Bili smo iznenađeni raznolikošću taktika. Da smo se fokusirali samo na jednu tehniku, propustili bismo sve različite načine na koje AI može zadržati korisnika angažiranim," zaključio je De Freitas.