Prema njihovim nalazima, hakeri koriste generativne AI alate kako bi automatizovali procese, proširili obim svojih operacija i drastično smanjili tehničke prepreke za izvođenje napada.
Istraživači navode da se umjetna inteligencija trenutno najviše koristi za kreiranje uvjerljivih tekstova, koda i multimedijalnih sadržaja. Napadači ove modele koriste za pisanje phishing poruka, prevođenje sadržaja na različite jezike, ali i za sažimanje ukradenih podataka i ispravljanje grešaka u zlonamjernim programima. U takvim scenarijima AI djeluje kao svojevrsni pojačivač koji ubrzava izvršenje zadataka, dok ljudi i dalje donose ključne odluke o metama i ciljevima.
Posebno su istaknute sjevernokorejske grupe, poput onih koje Microsoft prati pod nazivima Jasper Sleet i Coral Sleet. Uz pomoć AI alata kreiraju lažne identitete i biografije kako bi se zaposlili u zapadnim kompanijama, a nakon zaposlenja koriste istu tehnologiju za održavanje pristupa sistemima. Grupa Coral Sleet ide i korak dalje, koristeći AI za brzo kreiranje lažnih web-stranica firmi i testiranje infrastrukture za napade.
Izvještaj također bilježi eksperimente sa zlonamjernim softverom koji dinamički mijenja svoje ponašanje, kao i pokušaje korištenja tzv. agentne umjetne inteligencije koja bi zadatke trebala obavljati autonomno. Kada sigurnosni sistemi pokušaju blokirati ove aktivnosti, hakeri pribjegavaju takozvanim „jailbreaking“ tehnikama kako bi prevarili modele da generišu zabranjeni kod.
Microsoft nije jedini koji upozorava na ove trendove. Google je nedavno izvijestio o zloupotrebi njihovog Gemini AI modela u svim fazama napada, dok su Amazon i blog Cyber and Ramen dokumentovali kampanju u kojoj je napadač, koristeći više AI servisa, uspio probiti više od 600 FortiGate zaštitnih zidova. Zbog toga organizacije trebaju obratiti pažnju na neobično korištenje alata i dodatno ojačati sisteme identifikacije, jer AI napadi često oponašaju legitimne aktivnosti unutar mreže.