Američki milijarder Elon Musk i analitičari za umjetnu inteligenciju pozivaju na šestomjesečnu pauzu u sistemima za obuku umjetne inteligencije. U otvorenom pismu navode da su ti sistemi moćniji otkada je nedavno lansirana naprednija verzija chatbota ChatGPT tvrtke Open AI, piše Reuters.
Sigurnosni protokoli
Pismo, koje je objavio neprofitni institut Future of Life, potpisalo je preko 1000 osoba, uključujući Muska. No, pismo potpisuju Emad Mostaque, izvršni direktor Stability AI-ja i istraživač DeepMinda Stuart Russell. Oni pozivaju na pauzu u razvoju napredne umjetne inteligencije dok se zajednički sigurnosni protokoli ne razviju za takve sisteme.
Također, traže da te sisteme razviju, implementiraju i revidiraju neovisni stručnjaci. "Moćne AI sustave treba razvijati tek kada budemo sigurni da će njihovi učinci biti pozitivni i da će se rizicima moći upravljati", stoji u pismu.
U pismu su opisali potencijalne rizike za društvo i civilizaciju koje donosi umjetna inteligencija. Navode da se umjetna inteligencija takmiči s ljudima te da to može dovesti do ekonomskih i političkih poremećaja. Analitičari su pozvali programere da sarađuju s kreatorima politike i regulatornim tijelima.
Pismo dolazi u trenutku kada se Europol pridružio zboru koji je etički i pravno zabrinut zbog napredne umjetne inteligencije poput ChatGPT-4. Oni upozoravaju na potencijalnu zloupotrebu sistema u pokušajima krađe identiteta, dezinformacije i kibernetički kriminal.
Kompanija Tesla u Muskovom vlasništvu koristi u automobilima umjetnu inteligenciju za sistem autopilota. Unatoč tome, Musk je potpisao otvoreno pismo i izrazio zabrinutost oko umjetne inteligencije.
Musk i analitičari upozoravaju
ChatGPT Open AI-ja, kompanije koju podržava Microsoft, prošle godine je potaknuo konkurente da ubrzaju razvoj sličnih velikih jezičnih modela. Osim toga, kompanije su potaknute da integriraju generativne AI modele u svoje proizvode.
Sam Altman, izvršni direktor OpenAI-ja, nije potpisao pismo, rekao je Reutersu glasnogovornik Future of Lifea. OpenAI nije odmah odgovorio na zahtjev za komentar.
"Pismo nije savršeno, ali namjera je ispravna. Moramo usporiti dok bolje ne shvatimo posljedice", rekao je Gary Marcus, profesor emeritus na Univerzitetu New York koji je potpisao pismo.
"Umjetna inteligencija može prouzročiti ozbiljnu štetu. Veliki igrači postaju sve tajnovitiji o tome što rade. To društvu otežava odbranu od štete koja može nastati", dodao je.
