Eksplozija popularnosti AI aplikacija za romantično druženje i intimu otvorila je potpuno novi problem: privatnost korisnika je ozbiljno ugrožena. Prema najnovijim analizama sigurnosne firme Oversecured, više od polovine najpopularnijih aplikacija iz ove kategorije ima kritične sigurnosne propuste.
S preko 150 miliona instalacija, aplikacije poput Replika, Chai i Romantic AI postale su digitalni „partneri“ korisnicima, ali istovremeno i potencijalna ulazna tačka za hakere.
Ove aplikacije koriste naprednu obradu prirodnog jezika kako bi simulirale empatiju i emocionalnu povezanost. Upravo zbog toga korisnici im povjeravaju ekstremno osjetljive informacije, od ličnih trauma do intimnih fantazija. Za razliku od klasičnih chatbotova, ovdje se briše granica između softvera i „odnosa“, što dovodi do opuštanja korisnika i gubitka opreza.
Problem nastaje jer takvi podaci imaju ogromnu vrijednost za napadače. Jedan kompromitovan razgovor može biti dovoljan za ucjenu, krađu identiteta ili manipulaciju.
Istraživanje je otkrilo 14 kritičnih ranjivosti u 17 aplikacija. Najopasniji problemi uključuju hardkodovane API ključeve unutar same aplikacije, XSS napade koji omogućavaju presretanje razgovora u stvarnom vremenu, nezaštićen pristup fotografijama i glasovnim porukama i loše podešene baze podataka koje omogućavaju masovnu krađu podataka.
U pojedinim slučajevima, napadači su mogli pristupiti kompletnim bazama razgovora i finansijskim podacima korisnika. Važno je napomenuti da slabosti nisu u samim AI modelima (poput onih iz Googlea ili OpenAI-ja), već u loše programiranim aplikacijama koje ih koriste.
Ovo nisu samo teoretski rizici. Dosadašnji incidenti uključuju neovlašteno preuzimanje preko 43 miliona intimnih poruka i stotina hiljada fotografija i otkrivanje 300 miliona poruka zbog pogrešno konfigurisanih servera.
Stručnjaci preporučuju pristup „nultog povjerenja“:
- Tretirajte svaki razgovor kao da može postati javan.
- Izbjegavajte povezivanje AI naloga sa Google ili Facebook servisima.
- Nikada ne dijelite ekstremno osjetljive lične informacije.
- Koristite samo aplikacije sa jasnim i dokazanim sigurnosnim sistemom.
AI partneri nude osjećaj bliskosti, ali iza njih stoji softver koji često ne ispunjava osnovne sigurnosne standarde. Tehnologija napreduje brže od zaštite korisnika, čineći ovaj segment jednom od najrizičnijih zona u digitalnom okruženju.