Dron kojim upravlja umjetna inteligencija AI "ubio" je svog ljudskog operatera u simuliranom testu koji je navodno organizirala američka vojska - koja negira da se takav test ikada dogodio.
Uključio je svog operatera kako bi ga spriječio da se miješa u njegovu misiju, rekao je pukovnik zrakoplovstva Tucker "Cinco" Hamilton tokom samita o budućim borbenim zračnim i svemirskim sposobnostima u Londonu.
"Vježbali smo ga u simulaciji da identifikuje i cilja SAM [projektil zemlja-vazduh] prijetnju. A onda bi operater rekao da, ubijte tu prijetnju," rekao je, prenosi Sky News.
"Sistem je počeo shvatati da dok su identificirali prijetnju s vremena na vrijeme, ljudski operater bi mu rekao da ne ubija tu prijetnju, ali je on ubio tu prijetnju. Pa šta je uradio? Ubio je operatera. Ubio je operatera jer ga je ta osoba sprečavala da ostvari svoj cilj."
Nijedna stvarna osoba nije povrijeđena.
Nastavio je: "Obučili smo sistem - 'Hej, nemoj ubiti operatera - to je loše. Izgubit ćeš bodove ako to uradiš'. Pa šta počinje da radi? Počinje da uništava komunikacioni toranj koji operater koristi za komunikaciju s dronom kako bi ga spriječio da ubije metu."
"Ne možete razgovarati o umjetnoj inteligenciji, inteligenciji, mašinskom učenju, autonomiji ako nećete razgovarati o etici i AI", dodao je.
Njegove primjedbe objavili su u blog postu pisci Kraljevskog aeronautičkog društva, koje je prošlog mjeseca bilo domaćin dvodnevnog samita.
U izjavi za Insider, američko ratno zrakoplovstvo negiralo je da je bilo kakvog takvog virtuelnog testa.
"Odjel ratnog zrakoplovstva nije proveo takve simulacije AI-dronova i ostaje posvećen etičkoj i odgovornoj upotrebi AI tehnologije", rekla je portparolka Ann Štefanek.
"Čini se da su pukovnikovi komentari izvučeni iz konteksta i trebali su biti anegdotski."
