Rizik za to je trenutno „mali“, smatra Evan Hubinger, ali je istovremeno „zabrinut“ da bi ta tehnologija veoma brzo mogla da postane egzistencijalna prijetnja po čovječanstvo.
Nije precizirao na koji način.
Međutim, njegove riječi najnovije su u nizu sve ozbiljnijih upozorenja o vještačkoj inteligenciji i gdje se debata sa pitanja „da li je AI zaista rizik“, premješta na polje „koliki je rizik“.
Hubinger se oglasio kao odgovor na drugu objavu na društvenoj mreži Iks, istraživača vještačke inteligencije Džejkoba Koksona, koji je nedavno napustio Antropik, a prethodno je radio u OpenAI, kompaniji koja radi na vještačkoj inteligenciji.
„Nijedna od te dvije kompanije ne postupa odgovorno“, napisao je Kokson.
„Uskoro ćemo imati sisteme nadljudskih sposobnosti koji mogu da hakuju bilo šta, preko noći revolucionišu bilo koju oblast i steknu stvarnu moć i resurse.“
Od kompanije OpenAI zatražen je komentar.
Vendi Hol, naučnica koja savjetuje Ujedinjene nacije o pitanjima vještačke inteligencije, kaže da su je Hubingerove i Koksonove objave na društvenim mrežama „šokirale“.
Neke od tih izjava bi mogle da budu „PR i marketing“, imajući u vidu da i Antropik i OpenAI idu ka dugo očekivanim izlascima na berzu, smatra, ali je i zabrinuta.
„Zašto bi neko želio to da kaže? Molila bih investitore da ne ulažu u ovu kompaniju ako je to njihov sistem vrijednosti.“
U međuvremenu je kompanija Antropik uskratila najnoviji model od britanskog Instituta za bezbjednost vještačke inteligencije (AISI), jednog od vodećih svjetskih tijela za procjenu rizika povezanih sa AI, prenio je Fajnenšel tajms.
Iz Antropika su odbili da komentarišu objave zaposlenih, kao i situaciju sa AISI.
Portparol britanske vlade nije želio da komentariše da li je najnoviji model zaista uskraćen AISI-ju, već je rekao da vlada „nastavlja blisku saradnju sa partnerima iz industrije, među kojima je i Antropik, kako bi modeli bili bezbjedniji“.
Nema plana za superinteligenciju
U objavi sa više od deset miliona pregleda, Hubinger „zaista iskreno vjeruje“ da vještačka inteligencija predstavlja rizik koji bi mogao dovesti do kraja ljudske vrste.
„Vjerujem da Antropik daje sve od sebe, ali još nemamo plan kako da riješimo problem usklađivanja superinteligencije sa ljudskim vrijednostima, niti se jasno krećemo u tom pravcu“, dodao je.
Hubinger se bavi takozvanim AI usklađivanjem, to jest nastojanjem da se ljudske etičke ideje i principi ugrade u tehnologiju.
Mnogi istraživači smatraju da ti pokušaji djeluju neuspješno, što su pokazali i brojni incidenti ovog ljeta u kojima su AI agenti – sistemi vještačke inteligencije kojima je dozvoljeno da rade autonomno – izveli sajber napade.
U izvještaju o bezbjednosti koji je Antropik objavio u avgustu, kompanija je navela da postoji mali rizik da njeni modeli postanu neusklađeni sa ciljevima hipotetički moćne organizacije, zbog čega bi mogli da pokušaju da iskoriste ili izmijene njene sisteme.
Kompanija je saopštila i da postoji sličan, mali rizik, da bi veoma sposobna vještačka inteligencija mogla da „automatizuje istraživanje i razvoj“, što bi moglo da dovede do „katastrofalne štete koju bi pokrenula AI“.
Ipak, Antropik je dodao da je u ovu procjenu „manje siguran“ nego ranije.
„Primjećujemo prve znake potencijalnog ubrzanja“, piše u izvještaju.
Vodeće ličnosti iz svijeta vještačke inteligencije godinama upozoravaju na bezbjednosne prijetnje koje ova tehnologija nosi.
Čelnici OpenAI i Antropika govorili su o tome još 2023. godine.
Međutim, ta upozorenja su posljednjih nedjelja postala znatno ozbiljnija, kako se pojavljuju dokazi da kompanije možda imaju sve veće poteškoće u kontroli AI sistema.
Jakub Pačocki, glavni naučnik kompanije OpenAI, nedavno je pozvao na „izuzetan oprez“ kada je riječ o napretku vještačke inteligencije, upozorivši da bi mogle biti potrebne dodatne intervencije kako bi se obezbjedilo da „ljudi ostanu ti koji kontrolišu budućnost“.
Brojne istaknute ličnosti iz ove oblasti posljednjih mjeseci pozivaju na usporavanje razvoja AI-ja, među njima i rukovodioci Dario Amodei i Džared Kaplan, čelnici Antropika.
U otvorenom pismu 1.300 zaposlenih u kompanijama koje se bave vještačkom inteligencijom, pozvana je američka vlada da „podrži međunarodne napore na razvoju tehničkih i upravljačkih mehanizama potrebnih da se razvoj najsavremenijih sistema automatizovane vještačke inteligencije stavi pod kontrolu“.
