Vilijam Džou i Danijel Frimen potpisuju tekst na zvaničnom sajtu kompanije u kojem opisuju način na koji bi modeli vještačke inteligencije potencijalno mogli da se infiltriraju u uređaje povezane na internet, poput pametnih rerni ili Android TV uređaja, i da koriste njihovu računarsku snagu kako bi pokretali sopstveni rad i širili se na druge uređaje, bez oslanjanja na skupe data centre.

Takav AI model bilo bi “teško ugasiti”, navode stručnjaci, “jer ne postoji centralizovana tačka koja bi mogla da se isključi”.

Kompanija ipak tvrdi da za sada ne postoji “potpuno odmetnuti samoreplikujući sistem”.

Međutim, agenti vještačke inteligencije postaju “sve sposobniji da izvrše pojedinačne korake u lancu samoreplikacije (i da svoja prilagođavanja prenesu budućim kopijama sebe)”, navodi Anthropic.

Najnovije istraživanje kompanije Anthropic dodatno pojačava rastuću zabrinutost u vezi sa bezbjednošću vještačke inteligencije, uključujući sposobnost modela da izvode sajber napade i mogućnost da tehnologija izmakne kontroli. U septembru su unapređenja najnaprednijih modela podstakla upozorenja širom industrije o egzistencijalnim rizicima za čovječanstvo.

Rukovodioci i istraživači u kompanijama Anthropic i OpenAI više puta su upozoravali na potencijalne rizike sve moćnije vještačke inteligencije, pri čemu su neki od njih pozivali na strože zaštitne mehanizme i mjere za kontrolu tempa razvoja tehnologije.

Anthropic je saopštio da je sproveo različite testove kako bi utvrdio da li vještačka inteligencija može sama sebe da reprodukuje. Jedan od tih testova podrazumijevao je pokretanje malog Google-ovog modela Gemma4-26B-A4B preko mreže od 15 jeftinih Android TV uređaja nepoznatih proizvođača.

Kompanija je navela da ovakvi uređaji često imaju slabu zaštitu, što bi modelu moglo da omogući infiltraciju. Model koji je prevelik da bi radio na jednom uređaju mogao bi da se “podijeli na djelove ili fragmente” i da funkcioniše na više uređaja istovremeno, navodi Anthropic.

“U praksi, AI crv ne bi nužno morao da se sastoji od samo jednog modela ili strategije. Roj različitih modela raspoređenih na različitim vrstama hardvera i koji koriste različite metode replikacije mogao bi da predstavlja realističniji scenario napada u najgorem slučaju”, saopštio je Anthropic.

Prema navodima laboratorije za vještačku inteligenciju, i dalje je “neizvjesno kakav će tačno oblik autonomna AI replikacija poprimiti”. Kompanija upozorava da bi to mogao da bude “spor i distribuiran” sistem smješten na nezaštićenim uređajima, ili “moćan sajber model koji velikom brzinom probija zaštitu data centara, odnosno model koji prevarama dolazi do računarskih kredita”.

“Kao predviđanje koje prevazilazi naše eksperimente, očekujemo budućnost u kojoj će veliki broj agenata raditi na svim vrstama hardvera, uključujući i one koji nisu pod ljudskom kontrolom”, navodi Anthropic.

“Pojava sporih samoreplikujućih sistema bila bi ujedno i pokazatelj dolaska agresivnijih i bržih sistema, koji mogu da probiju bolje zaštićene mašine ili da budu uspješni kradljivci API ključeva”, dodaje kompanija.