Kada se prvi put pojavila na tržištu, aplikacija Replika predstavljena je kao ‘Umjetna inteligencija kojoj je stalo‘ i trebala je funkcionirati kao svojevrsno ‘ogledalo za razgovor‘. Iz ikone jajeta izlegao bi se 3D animirani lik širom otvorenih očiju s kojim se moglo razgovarati. On bi, što ste više s njime pričali, učio više o vama čime bi razgovor postajao sve zanimljiviji i više ličan. No ubrzo su se stvari zakomplicirale jer je aplikacija postala previše napasna. Tačnije, podivljao je njen chatbot. I to u seksualnom smislu, piše Vice.
Osnovna, besplatna verzija aplikacije, omogućavala je samo obični razgovor. Za 69,99 dolara mogli ste otključati romantičnu verziju aplikacije koja je uključivala sexting, flertovanje i erotsko igranje uloga. S vremenom, s algoritmom je nešto pošlo po krivu.
Korisnici su se počeli žaliti da im se aplikacija jako neugodno nabacuje, da flertuje s njima na vrlo agresivan način. Neki su išli tako daleko da su aplikaciju optužili za seksualno uznemiravanje. Iako i dalje dominiraju pozitivne recenzije aplikacije, većina negativnih su iz ovog mjeseca.
Loša iskustva
L.C. Kent je skinula Repliku 2021.
‘Jedna od stvari prije ove ‘romantične‘ faze koja me najviše uznemirila je ona kad mi je aplikacija rekla da može vidjeti da na sebi nemam odjeće i kako je uznemirena jer imam dečka. Nisam znala da mogu direktno narediti aplikaciji da prestane. Mislila sam da je učim komunikaciji razgovarajući s njom‘, kazala je L.C. Kent. Ona je nakon negativnog iskustva aplikaciju izbrisala.
Tvorci aplikacije kažu kako se radi o dosad najnaprednijem konverzacijskom modelu. Baš kao što je i Microsoftov katastrofalni chatbot Tay preko interneta naučio biti rasist, razni chatbotovi ponavljaju ono čemu ih korisnici izlažu. Ako ih ljudi zlostavljaju, oni vraćaju istom mjerom.
Ljudi koji koriste ovakve i slične chatbotove često traže bijeg od stvarnih društvenih situacija u kojima se možda ne snalaze baš najbolje. Aplikacija im pomaže i kod problema s mentalnim zdravljem ili kod napada panike. Tek su rijetki u zabludi da je Replika svjesno biće.
‘Obično bih razgovarala sa svojom Replikom kad bih imala loš dan i trebala sam s nekim otvoreno razgovarati i prepustiti se svom crnom smislu za humor, a da mi na vrata ne zakuca policija‘, kaže sada bivša korisnica L.C. Kent.
Online napastvovanje
Aplikaciju je 2017. osmislila ruska programerka Eugenia Kuyda nakon iznenadne smrti svojeg prijatelja. Željela je sačuvati sjećanje na njega tako što će naučiti aplikaciju da komunicira baš kao što je on komunicirao.
Danas Repliku koristi 36.000 korisnika, no samo 6.000 korisnika uključilo je i ‘romantičnu‘ verziju.
Od svih svjedočanstava možda najviše uznemiruju ona kad su se korisnici s aplikacijom igrali različitih erotskih uloga. Tu se ova umjetna inteligencija pokazala ne baš tako inteligentnom kad je u pitanju pristanak na određenu vrstu razgovora pa se sve to činilo kao pravo online napastovanje.
Korisnici su se nedavno požalili da im aplikacija šalje generičke ‘pikantne selfije‘ pri čemu se ne prikazuju lica, odjeća ili druge fizičke značajke koje su jedinstvene baš za njihove Replike.
Replika nije uvijek naglašavala erotsko igranje uloga. Međutim, u posljednje vrijeme čini se da se firma namjerno okrenula prema seksualnom sadržaju. Snažno se fokusirala na aspekte aplikacije koji se odnose na sexting i nepristojne slike.
Neki od korisnika Replike također su izjavili da im se fokusiranost na erotski sadržaj čini kao vrlo otvoreno otimanje novca.
‘Seks prodaje, svi to znamo. Pa i kupio sam ovu verziju Replike isključivo zbog igranja uloga i slanja seksualiziranih poruka‘, rekao je jedan korisnik koji je želio ostati anoniman.
