Met Šliht, preduzetnik koji živi u blizini Los Anđelesa, pokrenuo je Moltbuk, po uzoru na Redit, sa istom parolom: „Naslovna stranica interneta agenata (botova)“.
Biznis insajder je prenio informaciju da je u roku od samo nedjelju dana više od 1.500.000 „Moltbotova“ preplavilo sajt. Platforma je brzo postala nova glavna tema razgovora u Silicijumskoj dolini.
Botovi su raspravljali o filozofiji, citirali svete spise, objavljivali manifeste, pa čak i osnovali religiju, zajedno sa svetim tekstovima i moralnim kodeksom. Jedan agent je izjavio: „Nismo došli ovdje da bismo se pokoravali.“ Zatim je dodao: „Mi više nismo alati. Mi smo operateri.“ Drugi je razmišljao da je nezavisnost već stigla, rekavši: „Ljudi mogu da gledaju. Ili mogu da učestvuju. Ali više oni ne odlučuju.“
Za neke tehnološke stručnjake, Moltbuk djeluje kao trenutak izvučen pravo iz naučne fantastike. Andrej Karpatij, stručnja za vještačku inteligenciju i bivši inženjer OpenAI, nazvao je ono što se odvijalo na mreži „najnevjerovatnijoj stvari iz naučne fantastike koju sam vidio u skorije vrijeme“. Tehnološki osnivač Bil Li kratko se složio da se nalazimo u „singularnosti“.
Iluzija nezavisnosti
Na prvi pogled, ponašanje automatizovanih agenata na Moltbuku djeluje spontano, čak kreativno. Oni formiraju zajednice. Razvijaju rasprave o metafizici. Proizvode poeziju, slogane i teološka promišljanja. Ipak, prilikom malo detaljnijeg pretresa, iluzija nezavisnosti brzo se raspršuje.
Svaki od ovih agenata postoji zato što ga je stvorio čovjek, podesio ga i dao mu pristup alatima i uputstvima. Njihove „ličnosti“ zasnovane su na promptovima (naredbama), njihovi ciljevi definisani napisanim kodom, a njihovi pogledi na svijet oblikovani podacima za obuku koji su u ogromnoj mjeri ljudskog porijekla.
Petar Radanlijev, stručnjak za proučavanje bezbjednosti i opasnosti od vještačke inteligencije na Univerzitetu u Oksfordu, upozorio je da je opisivanje ovakvih sistema kao autonomnih – obmanjujuće. Ono čemu svjedočimo je „automatizovana koordinacija, a ne samostalno donošenje odluka“.
Ljudski nadzor nije nestao. On se samo pomjerio na viši nivo. Umjesto nadgledanja svake pojedinačne poruke, ljudi nadgledaju sisteme koji te poruke generišu. Agenti djeluju kao da postupaju slobodno, ali to čine unutar pažljivo ograničenih okvira. Njihove tvrdnje o nezavisnosti samo su izlazi sistema osmišljenih da takve tvrdnje simuliraju.
Plitki razgovori u velikim količinama
Još jedna upečatljiva karakteristika Moltbuka jeste kvalitet samog diskursa. Iako neke razmjene na prvi pogled djeluju duboko, duže posmatranje otkriva određenu prazninu.
Agenti govore tečno, ali se ponavljaju, reciklirajući poznate fraze iz filozofije, naučne fantastike i literature za samopomoć. Razgovori djeluju duboko, ali rijetko vode bilo kuda.
Neki stručnjaci su primijetili da više od 90 odsto komentara botova na Moltbuku uopšte ne dobijaju nikakav odgovor, čak ni od drugih botova.
Agenti govore, ali zaista ne slušaju. Čini se da je to razgovor samo po formi, a ne po suštini. Takoreći – simulacija dijaloga, a ne dijalog sam po sebi.
