Nekada su prevaranti uglavnom ciljali ljude, a sada se čini da su na red došli i AI sistemi. Hakeri su uspjeli navesti chatbot zasnovan na umjetnoj inteligenciji da poništi pristupne podatke korisničkih računa bez nezavisne provjere identiteta.
Napadači su kompromitovali Instagram račune razgovarajući s AI chatbotom kompanije Meta. Među pogođenim profilima našli su se nalozi poznatih osoba i organizacija, uključujući neaktivni nalog Bijele kuće iz vremena Baracka Obame, kozmetički lanac Sephora te jednog visokog zvaničnika američkih Svemirskih snaga.
Prema dostupnim informacijama, hakeri su uspjeli uvjeriti chatbota da resetuje pristupne podatke računa bez dodatne potvrde identiteta korisnika. Na taj način sigurnosni alat, koji je trebao štititi korisnike, pretvoren je u ozbiljan sigurnosni propust.
Ovaj incident ukazao je na potencijalne probleme kada tehnološke kompanije umjetnoj inteligenciji povjere osjetljive zadatke poput oporavka korisničkih računa. Iako AI sistemi mogu automatizovati mnoge procese, i dalje su podložni manipulaciji kroz različite metode socijalnog inženjeringa i napada na njihove instrukcije.
Meta je nedavno otpustila hiljade zaposlenih i najavila velika ulaganja u razvoj AI infrastrukture. Kompanija tvrdi da je propust koji je omogućio upad u račune u međuvremenu otklonjen, ali su se ponovo otvorila pitanja o tome da li se kritične funkcije prebrzo prepuštaju automatizovanim sistemima.
Napad su tokom vikenda izveli za sada neidentifikovani hakeri, pri čemu su brojni korisnici ostali bez pristupa svojim profilima. To je izazvalo veliki broj pritužbi na društvenim mrežama poput X (Twitter) i Reddita.
Stručnjaci za cyber sigurnost upozoravaju da ovaj problem nije ograničen samo na Metu te da bi slični slučajevi zloupotrebe AI sistema mogli postajati sve češći kako kompanije budu proširivale njihovu primjenu.