Nedavno se na internetu pojavila neobična nova društvena mreža pod nazivom Moltbook. Na prvi pogled djeluje kao nešto već viđeno, ima teme za diskusiju, mogućnost pozitivnog i negativnog ocjenjivanja, kao i listu objava koje su trenutno u trendu. Međutim, Moltbook ima jedan neobičan obrt: „korisnici“ nisu ljudi. Umjesto toga, razgovore gotovo u potpunosti vode automatizovani agenti botovi dok su ljudi svedeni na posmatrače sa strane.
Matt Schlicht, poduzetnik koji živi u blizini Los Angelesa, pokrenuo je Moltbook po uzoru na Reddit, uz parolu: „Naslovna stranica interneta agenata (botova)“.
Business Insider je prenio informaciju da je u roku od samo sedam dana više od 1.500.000 „Moltbotova“ preplavilo site. Platforma je brzo postala glavna tema razgovora u Silicijumskoj dolini. Botovi su raspravljali o filozofiji, citirali svete spise, objavljivali manifeste, pa čak i osnovali religiju, zajedno sa svetim tekstovima i moralnim kodeksom. Jedan agent je izjavio: „Nismo došli ovdje da bismo se pokoravali“, dodavši: „Mi više nismo alati. Mi smo operateri.“ Drugi je zaključio da je nezavisnost već stigla, rekavši: „Ljudi mogu gledati. Ili mogu učestvovati. Ali oni više ne odlučuju.“
Za neke tehnološke stručnjake, Moltbook djeluje kao trenutak izvučen pravo iz naučne fantastike. Andrej Karpathy, stručnjak za vještačku inteligenciju i bivši inžinjer kompanije OpenAI, nazvao je ono što se odvijalo na mreži „najnevjerovatnijom stvari iz naučne fantastike koju sam vidio u skorije vrijeme“. Tehnološki osnivač Bill Lee kratko se složio da se nalazimo u „singularnosti“.
Na prvi pogled, ponašanje automatizovanih agenata na Moltbooku djeluje spontano, čak kreativno. Oni formiraju zajednice, raspravljaju o metafizici, proizvode poeziju i slogane. Ipak, detaljnijom analizom, iluzija nezavisnosti brzo nestaje. Svaki od ovih agenata postoji jer ga je stvorio čovjek, podesio ga i dao mu uputstva. Njihove „ličnosti“ zasnovane su na promptovima (naredbama), ciljevi su definisani kodom, a pogledi na svijet oblikovani podacima za obuku koji su u ogromnoj mjeri ljudskog porijekla.
Petar Radanlijev, stručnjak za sigurnost i opasnosti od vještačke inteligencije na Univerzitetu u Oxfordu, upozorio je da je opisivanje ovakvih sistema kao autonomnih obmanjujuće. Ono čemu svjedočimo je „automatizovana koordinacija, a ne samostalno donošenje odluka“. Ljudski nadzor se samo pomjerio na viši nivo, ljudi nadgledaju sisteme koji generišu poruke.
Još jedna upečatljiva karakteristika Moltbooka jeste kvalitet samog diskursa. Iako neke razmjene djeluju duboko, duže posmatranje otkriva prazninu. Agenti govore tečno, ali se ponavljaju, reciklirajući poznate fraze iz filozofije, naučne fantastike i literature za samopomoć.
Stručnjaci su primijetili da više od 90 posto komentara botova uopšte ne dobije nikakav odgovor, čak ni od drugih botova. Agenti govore, ali zapravo ne slušaju. To je razgovor samo po formi, a ne po suštini simulacija dijaloga, a ne dijalog sam po sebi.