Stručnjaci su otkrili ozbiljnu ranjivost u Microsoftovom AI asistentu Copilot, koja je napadačima mogla omogućiti da samo jednim klikom izvuku privatne podatke i osjetljive informacije iz korisničkih e-mailova.
Microsoft je hitno zakrpao sigurnosni propust u svom poslovnom paketu Microsoft 365 Copilot nakon što su istraživači otkrili napad nazvan SearchLeak.
Ispostavilo se da je AI asistent imao ozbiljan problem – nije uvijek mogao razlikovati naredbe stvarnog korisnika od skrivenih, zlonamjernih uputa koje se nalaze u tuđim e-mailovima, dokumentima ili linkovima koje analizira.
Napad je za korisnika bio izuzetno jednostavan:
- napadač pošalje posebno pripremljen e-mail s linkom,
- korisnik samo klikne na njega,
AI sistem može nenamjerno izvršiti skrivene naredbe i otkriti podatke.
Microsoft je ranije ugradio zaštite koje sprečavaju AI da šalje informacije nepoznatim web stranicama, ali su istraživači pronašli način da zaobiđu te mehanizme. Iskoristili su trenutak prije nego što sistem aktivira sigurnosne provjere i preusmjerili podatke kroz privremeni kod u internet pregledniku.
Budući da je Copilot namijenjen prvenstveno kompanijama, posljedice su mogle biti veoma ozbiljne. Napadači su potencijalno mogli pristupiti informacijama koje zaposleni imaju u svojim sistemima, uključujući:
- poslovne e-mailove,
- kalendare i sastanke,
- bilješke,
- dokumente na SharePointu,
- datoteke na OneDriveu.
Iako je Microsoft brzo riješio ovaj konkretni problem, stručnjaci upozoravaju da on ukazuje na širi izazov sigurnosti umjetne inteligencije.
Problem je u tome što moderni AI sistemi još uvijek teško razlikuju legitimne naredbe korisnika od skrivenih uputa koje se nalaze unutar dokumenata ili sadržaja koji obrađuju.
Zbog toga stručnjaci smatraju da će napadi ove vrste vjerovatno nastaviti predstavljati ozbiljan izazov za razvoj i sigurnost AI tehnologije.