Umjetna inteligencija je alat koji se, poput svakog drugog alata, može koristiti za dobro ili za loše. Do sada smo vidjeli da AI može vrlo brzo i precizno otkriti bolesti, napraviti simulacije novih lijekova ili ukazati na greške u ljudskoj DNK.
No, naučnici koji su objavili studiju u časopisu Science upozoravaju na potencijalnu opasnost od AI bioterorizma.
Kako navode, velike biološke kompanije koje proizvode DNK po narudžbi za naučnike imaju zaštitne mjere kako bi spriječile da opasni biološki materijal dospije u ruke zlonamjernih osoba. Svaka narudžba za gene za potencijalno opasne bolesti, poput boginja ili antraksa, pomno se prati i provjerava.
Međutim, istraživanje je pokazalo da umjetna inteligencija može lako zaobići te procese biosigurnosti i učiniti osjetljiv materijal dostupnim osobama kojima ne bi smio biti dostupan.
Istraživači su otkrili da se alati za dizajn proteina mogu koristiti za "parafraziranje" DNK kodova toksičnih proteina.
„Na našu zabrinutost, ove preformulirane sekvence su promakle sistemima biosigurnosnog provjeravanja koje kompanije za sintezu DNK koriste širom svijeta za označavanje opasnih narudžbi“, upozorava Eric Horvitz iz Microsofta.
Korištenjem AI programa za generiranje DNK za više od 75.000 opasnih proteina, računarski naučnici otkrili su da postoje zaštitne mjere koje koriste proizvođači DNK, ali da su neke od opasnih sekvenci ipak prošle neprimijećeno.
Iako su naučnici brzo osmislili i ugradili rješenje u softver za biosigurnosni probir, ono nije savršeno i još uvijek se mogu provući opasne varijante.
„Dizajn proteina uz pomoć umjetne inteligencije jedno je od najuzbudljivijih područja nauke. Već vidimo napredak u medicini i javnom zdravstvu“, kaže Horvitz. „No, kao i mnoge moćne tehnologije, isti se alati često mogu zloupotrijebiti.“
Zbog toga su autori studije napravili svojevrstan presedan. U dogovoru s časopisom Science, odlučili su zadržati neke informacije o istraživanju i ograničiti pristup podacima i softveru. Svaka osoba koja želi uvid u sve informacije mora proći procjenu koju će obaviti neprofitna organizacija Međunarodna inicijativa za biosigurnost i biosigurnost u nauci. Oni odlučuju ko ima legitimnu potrebu da dobije sve podatke.