Firma za kibernetičku sigurnost NCC Group demonstrirala je deepfake glas u stvarnom vremenu: novi alat uz pomoć umjetne inteligencije omogućava praktično trenutnu lažnu glasovnu komunikaciju, a napadačima je za izradu uvjerljivog klona glasa mete dovoljno nekoliko minuta originalnih snimki.
Alat uklanja ključnu prepreku: glasovni deepfakeovi više nisu ograničeni na unaprijed snimane ili sporo generirane izjave.
U stvarnim testovima napadači su uspješno oponašali identitet ciljane osobe bez vidljivih odgoda, koristeći open-source softver i prenosno računalo s grafičkom karticom NVIDIA RTX A1000 s 4096 MiB memorije i 2048 CUDA jezgri. Takav sistem, opisuju u blogu, bio je sposoban pokrenuti umjetni glas pritiskom na dugme, a sve se odvijalo na web-stranici, bez potrebe za kompliciranim postavkama ili skupim računarima.
Za stvaranje deepfakea dovoljan je prosječan kvalitet ulaznog zvuka, što znači da sofisticirane napade mogu izvoditi praktično svi korisnici običnih mikrofona iz prijenosnih računara, tableta ili mobitela. Testiranja su pokazala da žrtve najčešće nisu primijetile prevaru; gotovo svaki pokušaj telefonske lažne identifikacije bio je uspješan.
Ova demonstracija označava početak nove ere vishinga, glasovnih prevara kod kojih lažno predstavljanje u stvarnom vremenu postaje masovno dostupno. Sada je dovoljno poznavati osobu i imati nekoliko minuta njenog govora da bi napad bio uvjerljivo izveden. Odbranu, kažu, dodatno otežava činjenica što se napad obavlja bez primjetne latencije, što drastično smanjuje mogućnost prepoznavanja lažnog glasa.