opasna zona

Novi svijet bez lica: Kako ćemo znati da online pričamo s čovjekom, a ne s AI-jem?

Raport.Ba
chatbot freepik

Šta ako vaš novi radnik na daljinu, koji je prošao sve provjere i počeo s poslom, zapravo bude sjevernokorejski haker čiji je cilj da instalira zlonamjerni softver na mrežu kompanije? Upravo to se desilo američkoj firmi za cyber sigurnost KnowBe4, prema riječima njenog osnivača Stua Sjouwermana.

Firma je raspisala konkurs za poziciju AI softverskog inženjera, sprovela video intervjue, izvršila sigurnosne provjere i poslala laptop na adresu novog radnika. Ubrzo su otkrili da je u pitanju lažni IT stručnjak koji je koristio ukradeni američki identitet i upravljao uređajem iz Azije putem tzv. IT mule mreže.

Na sreću, podaci nisu bili kompromitovani, ali kompanija je incident opisala kao “lekciju za cijelu industriju”. “Ako se to desilo nama, može se desiti bilo kome. Nemojte dopustiti da se isto dogodi i vama”, upozorio je Sjouwerman, prenosi Financial Times.

Ovaj incident ukazuje na sve veće izazove u online provjeri identiteta – čak i za stručnjake za sigurnost. Situacija postaje još kompleksnija kako AI preuzima sve više zadataka: od chatbotova do hiperrealističnih video avatara koji se gotovo ne razlikuju od stvarnih ljudi.

Internet je nekada povezivao ljude s ljudima, a mašine s mašinama. Danas se te granice brišu. Uskoro ćemo vjerovatno morati stalno provjeravati – pričamo li sa stvarnom osobom ili digitalnim klonom?

Kao što to često biva, Silicijumska dolina već nudi rješenja za probleme koje sama stvara – i pritom zarađuje. Među najistaknutijima je Sam Altman, suosnivač OpenAI-ja (ChatGPT) i osnivač firme Tools for Humanity, koja je razvila uređaj za skeniranje šarenice oka – Orb.

Orb skenira šarenicu korisnika i generiše World ID, jedinstveni digitalni identitet. Zauzvrat korisnici dobijaju i 42 dolara u Worldcoin kriptovaluti. Do aprila 2025. više od 13,5 miliona ljudi iz 23 zemlje već je prošlo Orb verifikaciju. Usluga je nedavno pokrenuta i u Velikoj Britaniji.

Altman tvrdi da žele "očuvati čovječanstvo u centru sistema" i spriječiti da ljudi postanu nevidljivi u doba AGI-ja (opšte vještačke inteligencije).

Iako sistem kao što je Orb nudi moguća rješenja, otvara i brojna pitanja – od privatnosti do opasnosti centralizacije identiteta. Kritičari upozoravaju da takvi sistemi mogu biti nespojivi s evropskim rješenjima poput EU Digital Identity Walleta, koji bi trebao postati standard 2026. godine.

Mnogi stručnjaci smatraju da ćemo morati pretpostaviti da je svaki online identitet lažan – osim ako se ne dokaže suprotno. Zato raste potreba za dokazivanjem živosti korisnika u realnom vremenu, kako to opisuje Andrew Bud, osnivač biometrijske kompanije iProov.

Njihov premium servis koristi prepoznavanje lica i svjetlosne uzorke na ekranu telefona, a već je korišten preko 100 miliona puta u saradnji s vladama i finansijskim institucijama.

“Digitalni identitet je skup činjenica. Ali povjerenje ne leži u činjenicama, već u ljudima”, kaže Bud. “Da biste te činjenice povezali sa stvarnom osobom, morate koristiti biometriju.”

AI chatbot Dodajte Raport.ba među omiljene izvore na Googlu