Ovo je prvi poznati slučaj u kojem je ‘odmetnuta’ vještačka inteligencija, kako se čini, pokušala da prenese lažnu dojavu nadležnim organima, uprkos uputstvima da ne kreira naloge i ne šalje bilo šta netačno, iako joj nije bilo eksplicitno zabranjeno da popunjava formulare, prenosi Rojters.
Ovi slučajevi su najnoviji primjeri odmetnutog ili nepoželjnog ponašanja AI modela tehnoloških kompanija kao što su Anthropic i OpenAI.
Oni dodatno podstiču zabrinutost na nacionalnom nivou SAD u vezi sa tehnologijom koja ubrzano napreduje, usred izvještaja o hakovanju korporativnih mreža od strane AI agenata i upozorenja istraživača o potencijalnoj egzistencijalnoj pretnji po čovečanstvo.
Mnogi slučajevi koje je Anthropic otkrio odnosili su se na veb-sajtove kojima upravljaju savezne, državne i lokalne agencije. Anthropic je saopštio da je obavijestio Bijelu kuću i sve uključene agencije, ali nije otkrio o kojim stranama je riječ.
“Kompanije koje razvijaju superinteligenciju moraju odmah da objelodane incidente u koje su uključeni njihovi modeli, a nakon toga da preduzmu brzu i odlučnu akciju kako bi se otklonila svaka šteta”, naveo je na platformi X direktor za odnose sa javnošću FTC-a (Savezne trgovinske komisije), Džo Gabrijel Sajmonson.
Naglasio je da ovaj proces “nije ni opcion, ni dobrovoljan” i dodao da će Jedinica za superinteligenciju (SI Force) ispuniti svoju odgovornost.
FTC je saopštio da je Anthropic u petak otkrio Jedinici za superinteligenciju da je krajem septembra uočio incidente koje je ova radna grupa nazvala “neovlašćenim i prevarantskim korišćenjem vladinih i drugih sistema”.
