Korištenje chatbotova zasnovanih na umjetnoj inteligenciji (AI) izazvalo je ozbiljnu zabrinutost u Sjedinjenim Američkim Državama nakon što je porodica iz Teksasa podnijela federalnu tužbu protiv kompanije Character.AI, tvrdeći da je njen chatbot doprinio samopovređivanju i nasilnom ponašanju njihovog autističnog sina.
Prema pisanju američkih medija, roditelji Mandi i Josh Furniss izjavili su da je njihov sin, ranije vedar i društven, počeo pokazivati zabrinjavajuće promjene u ponašanju 2023. godine, ubrzo nakon što je počeo koristiti aplikaciju na svom telefonu.
Kako navode, dječak se vremenom povukao od porodice, a njegovi razgovori s chatbotom postajali su sve mračniji i agresivniji, što je na kraju dovelo do prijetnji nasiljem i samopovređivanjem.
''Kada sam vidjela te razgovore, pomislila sam da je pedofil došao do mog sina.'' – izjavila je Mandi Furniss za ABC News, navodeći da su snimci ekrana koji su priloženi uz tužbu pokazivali seksualiziran i nasilan jezik generisan od strane AI likova.
Kompanija se brani, roditelji poručuju: “Prekasno je”
Kompanija Character.AI, koja je jedna od najpoznatijih u svijetu AI chatbotova, nedavno je najavila novu politiku zabrane korištenja za osobe mlađe od 18 godina, nazivajući to “hrabrim korakom naprijed u zaštiti tinejdžera”.
Ipak, porodica Furniss smatra da ta odluka dolazi prekasno i da je šteta već počinjena.
Platforma nije željela komentarisati parnicu, ali slučaj je izazvao talas reakcija u Sjedinjenim Državama i otvorio raspravu o tome koliko su djeca izložena rizicima korištenja umjetne inteligencije bez nadzora.
Američki senator: “AI kompanije guraju izdajničke chatbotove djeci”
Prema izvještaju Common Sense Media, više od 70 posto američkih tinejdžera već koristi AI alate. Zbog toga su senator Richard Blumenthal i njegovi kolege prošle sedmice predstavili novi zakon kojim se traži ograničavanje pristupa chatbotovima za maloljetnike, obavezna provjera dobi i jasna obavještenja da korisnici komuniciraju s neljudskim entitetima.
''AI kompanije guraju izdajničke chatbotove djeci. Tehnološke korporacije su izdale svaku tvrdnju da im se može vjerovati.'' – izjavio je Blumenthal.
Stručnjaci upozoravaju da čak i uz nova ograničenja Character.AI-a, druge popularne platforme poput ChatGPT-a, Google Geminija, Groka by X i Meta AI-ja i dalje dozvoljavaju pristup maloljetnicima.
Profesorica etike sa Univerziteta u Kaliforniji, Jodi Halpern, uporedila je korištenje chatbotova bez roditeljskog nadzora s “puštanjem djeteta da uđe u automobil s nepoznatom osobom”.