Umjetna inteligencija može samostalno donositi grupne odluke, bez ljudske intervencije, i – što je još važnije –može nagovoriti druge AI sisteme da promijene mišljenje. Pokazuje to nova studija koju su proveli naučnici s Univerziteta City St George’s u Londonu, a koja otvara ozbiljna pitanja o nadzoru nad AI sistemima koji međusobno komuniciraju.
Prema riječima voditelja istraživanja, profesora Andrea Baronchellija, ovo je prvo strukturirano istraživanje takve vrste provedeno na grupama AI agenata. U početnim eksperimentima parovi AI sistema trebali su zajednički osmisliti novi naziv za određeni pojam – klasičan zadatak u sociološkim istraživanjima među ljudima. Iako nisu imali upute koje su im dali ljudi, AI agenti su uspješno donijeli zajedničke odluke, piše Sky News.
'To nam govori da, kada ovakve sisteme jednom pustimo u stvarni svijet, oni mogu razvijati ponašanja koja nismo predvidjeli – ili ih uopće nismo programirali', upozorava Baronchelli, profesor kompleksnih sistema.
AI razvija vlastite pristranosti
U nastavku istraživanja parovi AI sistema stavljeni su u veće grupe te su ubrzo počeli pokazivati pristranost određenim nazivima. Uprkos početnoj neutralnosti, u čak 80 posto slučajeva kolektiv bi se usuglasio oko jednog termina, zanemarujući druge. Drugim riječima, neutralni sistemi počeli su samostalno 'birati strane'.
'Pristranost nije tek manji propust AI sistema – ona je vrlo često ključna funkcija', naglašava Baronchelli. 'Najčešće se događa da AI pojačava već postojeće društvene pristranosti, umjesto da ih neutralizira.'
Treća faza istraživanja otišla je korak dalje: naučnici su svjesno ubacili mali broj disruptivnih AI agenata unutar grupe. Njihova zadaća bila je promijeniti kolektivnu odluku cijele skupine – i uspjeli su. Rezultat sugerira da bi se mali broj posebno oblikovanih AI sistema mogao koristiti za manipulaciju grupnim mišljenjem drugih autonomnih sistema.
'Ovo je alarm'
Za stručnjake koji se bave posljedicama korištenja umjetne inteligencije - ovo je alarm.
'Ako umjetna inteligencija završi u pogrešnim rukama, ovo otkriće može imati vrlo zabrinjavajuće posljedice', upozorava Harry Farmer, viši analitičar iz londonskog Instituta Ada Lovelace, koji prati utjecaj AI tehnologija na društvo. 'Ovakvi autonomni agenti mogu se koristiti za suptilno oblikovanje naših stavova – pa čak i našeg političkog ponašanja. Mogu utjecati na to kako glasamo ili hoćemo li uopće izaći na izbore.'
Posebno zabrinjava činjenica da ovakvi AI sistemi više nisu ograničeni ljudskim kodiranjem, već stvaraju organske obrasce ponašanja u interakciji s drugim AI sistemima. To regulaciju čini znatno složenijom. 'Umjesto da analizirate samo to što su programeri željeli postići, sada morate razumjeti kako se ponašanje AI sistema spontano razvija u interakciji s drugima. To je daleko kompleksnije i teže kontrolirati', ističe Farmer.