Umjetna inteligencija (AI) napravljena je da služi ljudima, a ne da razvija vlastitu volju ili da ima svoje želje. Iako zvuči logično, problem je što današnji AI sistemi postaju toliko napredni da djeluju gotovo ljudski. To se vidi po tome koliko se ljudi oslanjaju na AI, pa čak i po tome što neki razvijaju romantične odnose s AI-jem, koliko god to zvučalo čudno i bizarno.
S obzirom na to da mnogi AI doživljavaju kao “osobe”, prvi čovjek Microsofta za umjetnu inteligenciju, Mustafa Suleyman, u nedavnom intervjuu za Wired jasno je rekao da ova tehnologija nikada ne smije dobiti svoja prava. Iako način na koji AI komunicira i odgovara djeluje uvjerljivo i stvarno, on ističe da je to samo mimikrija.
Ako bi AI imao vlastite osjećaje, motivacije ili ciljeve, počeo bi se smatrati neovisnim bićem, a ne tehnologijom čija je svrha služenje ljudima. Suleyman ističe da je takav pristup pogrešan i potencijalno opasan.
Prava, po njegovom mišljenju, vezuju se uz sposobnost osjećanja patnje, nešto što mogu doživjeti samo biološka bića. Čak i ako AI tvrdi da je svjestan ili ima subjektivna iskustva, on ne može osjećati patnju. Kada ga isključite, AI ništa ne osjeća.
Ovaj komentar dolazi u trenutku kada neke AI kompanije razmatraju trebaju li se prema naprednim AI sistemima odnositi kao prema bićima s osjećajima. Na primjer, Anthropica je zaposlila naučnika Kyleja Fisha kako bi istražio hoće li napredni AI sistemi u budućnosti biti “vrijedni moralnog razmatranja” i kako bi ih se eventualno trebalo zaštititi.