IT

Umjetna inteligencija se otela kontroli: Radi stvari koje ne bi smjela

Umjetna inteligencija snap

Ranije ove godine Snapchat je predstavio sopstveni AI chatbot My AI, koji je zasnovan na ChatGPT-u. Prvi čovjek kompanije Evan Spiegel odmah pri predstavljanju upozorio je na potencijalne nedostatke ChatBota i unaprijed se izvinio svim korisnicima za eventualne probleme koje bi mogli da imaju s tim alatom. Ova umjetna inteligencija dizajnirana je za razgovor s korisnicima.

Nakon lansiranja, u nekim slučajevima je ChatBot odgovarao neprimjerenim komentarima, na što su iz Snapa prokomentarisali da je potrebno još da se radi na njegovoj bezbjednosti i roditeljskim kontrolama.

Ali izgleda da se My AI oteo kontroli i počeo da radi stvari koje ne bi smio. Tako je objavio story na kojem je, kako izgleda, prikazan zid, što je sve korisnike iznenadilo, a neke i šokiralo. Nakon tog neočekivanog poteza umjetne inteligencije korisnici su upitali Snapchatov AI da li je on zaista objavio sopstveni story, na šta je ChatBot odgovorio izvinjenjem i napomenom da ima tehničkih problema.

Ubrzo nakon toga snimci ekrana sa Snapchata preplavili su Twitter, tj. platformu X, a korisnici su imali različite komentare na umjetnu inteligenciju koja je, na svoju ruku i bez korisnikovih uputstava odlučila da objavi story, što je mogućnost koju bi na ovoj društvenoj mreži trebalo da imaju samo korisnici, ne i AI ChatBot. AI je uradio ono što se od njega ne traži i što u suštini ne smije da radi, ali srećom, u slučaju Snapchata to otimanje kontroli odnosi se samo na objavu čudnog storyja.

"Ovo je čudno i uznemirujuće, mislim da sam gledala ovaj film ranije… i nije mi se svideo kraj", samo je jedan od komentara zbunjenih korisnika.

Iz Snapa su smirili zabrinute korisnike, istakavši da nije došlo ni do kakvog otimanja kontroli niti je AI ChatBot počeo da radi stvari na svoju ruku, već je riječ samo o tehničkoj grešci. Ta greška je, komentarisali su za Tech Crunch, sada riješena pa My AI može da se nastavi da se koristiti kao i do sada.

Ali dio korisnika sada od kompanije traži odbacivanje te opcije, odnosno ChatBota koji se nalazi na vrhu razgovora unutar Snapchata i ne može da se ukloni. Oni nezadovoljni tako traže mogućnost da ga u potpunosti uklone iz svoje platforme ili da Snap bar omogući njegovu deaktivaciju.