UN agencija za djecu UNICEF pozvala je danas države da kriminaliziraju stvaranje sadržaja seksualnog zlostavljanja djece generiranog umjetnom inteligencijom, uz upozorenje da raste broj takvih slika koje seksualiziraju djecu, piše Reuters.
Agencija je istodobno pozvala programere da u AI modele ugrade zaštitne mehanizme kako bi se spriječila zloupotreba. Digitalne komoanije, poručuju iz UNICEF-a, trebale bi ograničiti širenje takvog sadržaja jačim moderiranjem i ulaganjem u tehnologije za otkrivanje.
"Šteta od zloupotrabe deepfakeova stvarna je i hitna. Djeca ne mogu čekati da zakon sustigne problem", stoji u saopćenju UNICEF-a.
Deepfakeovi su slike, videozapisi i zvučni zapisi koje stvara umjetna inteligencija i koji uvjerljivo oponašaju stvarne osobe.
UNICEF je izrazio zabrinutost i zbog takozvane "nudifikacije" djece, korištenja umjetne inteligencije za uklanjanje ili mijenjanje odjeće na fotografijama, kako bi se stvorile lažne nage ili seksualizirane slike. Prema podacima UNICEF-a, u posljednjih godinu dana najmanje 1,2 miliona djece u 11 zemalja doznalo je da su njihove fotografije manipulirane u seksualno eksplicitne deepfakeove.
Velika Britanija je u subotu objavila plan da proglasi nezakonitim korištenje AI alata za stvaranje slika seksualnog zlostavljanja djece, čime bi, navodi UNICEF, postala prva zemlja na svijetu s takvim zakonom.