Najnovija generacija AI modela otkriva niz ranjivosti širom globalne mreže, a stručnjaci upozoravaju da bi one uskoro mogle pasti u pogrešne ruke. U dvije godine koje su prethodile 2025., broj sedmičnih sajber napada porastao je za 58%, dok su napadi podržani vještačkom inteligencijom samo u prošloj godini skočili za nevjerovatnih 89%.
Claude Mythos: Model preopasan za javnost?
Kada je kompanija Anthropic razvila model Claude Mythos Preview, izazvala je potrese u tech zajednici. Model je ocijenjen kao preopasan za objavljivanje jer može identifikovati sigurnosne propuste u softveru koje su ljudski analitičari decenijama propuštali.
Kao odgovor, pokrenut je projekt Glasswing, inicijativa koja okuplja preko 40 vodećih svjetskih kompanija kako bi ispravili te propuste prije nego što zlonamjerni akteri razviju slične AI modele. Anthropic navodi da je model već otkrio hiljade kritičnih ranjivosti, uključujući i one u najpoznatijim operativnim sistemima i internet preglednicima.
Jaz otvorenog koda (Open-source)
Trenutno su najmoćniji alati u rukama „dobrih momaka“, ali to neće dugo trajati. Iako se najnapredniji modeli strogo čuvaju, takozvani open-source modeli ih prate u stopu. Jaz između njih se smanjio na svega šest mjeseci, što znači da bi kriminalci uskoro mogli imati pristup alatima slične snage.
„Pandorina kutija je otvorena“, kaže profesor Peter Bentley sa Univerziteta u Londonu. On ističe da će kriminalci ulagati novac u moćne računare kako bi pokretali lokalne modele bez ikakvog nadzora.
Realnost ili marketinški trik?
Ipak, neki stručnjaci pozivaju na oprez i podsjećaju da AI industrija često preuveličava opasnosti radi promocije. Naučnik Gary Marcus smatra da novi modeli nisu revolucionarni, već samo blago unaprijeđeni, te da demonstracija služi više kao dokaz da nam je potrebna bolja regulativa, a ne kao neposredna prijetnja.
Također, Bentley smatra da niko ne bi srušio kompletan internet „tek tako“, jer to nije finansijski isplativo, ali upozorava na opasnost od „naoružavanja“ vještačke inteligencije od strane država ili terorističkih organizacija.
Trka je počela
Pitanje je da li je moguće zakrpiti sve ranjivosti. Korištenje AI-ja za popravljanje koda može biti problematično jer AI često piše komplikovan i nekvalitetan kod, što može stvoriti nove propuste. Britanski Nacionalni centar za sajber sigurnost navodi da je ključna prednost odbrane trenutna mogućnost da „oblikuju teren“ i otežaju posao napadačima dok još uvijek imaju tehnološku prednost.