“Vještačka inteligencija je definitivno dovoljno moćna da izazove događaje s milijardu žrtava”, rekao je Gejts u nedjeljnom intervjuu za podkast Meet the Press.

“Nikada nije postojalo oružje tako moćno kao što je spoj ljudi sa zlim namjerama i najnovijih AI alata.”

Kako AI može biti povezan sa biološkim oružjem?

Gejts već godinama govori o biološkim prijetnjama, još prije pojave ChatGPT-a.

U svom TED govoru 2015. upozorio je da svijet nije spreman za bolesti koje se brzo šire, poput ebole, a nakon što je kovid-19 opteretio sisteme vlasti, napisao je knjigu “Kako spriječiti sljedeću pandemiju”.

Sličnu zabrinutost pokazao je i u razgovoru s Ezrom Klajnom iz New York Timesa, gdje je istakao opasnost koju AI predstavlja u kontekstu biološkog oružja, prenose Nezavisne.

“Vještačka inteligencija je dostigla nivo na kojem može omogućiti bioteroristi da ubije stotine miliona ljudi. Ta mogućnost danas postoji”,  izjavio je.

Gejts je dodao da napredak u vještačkoj inteligenciji može pomoći u dizajniranju novih molekula i potencijalno stvoriti patogen “gori od velikih boginja”.

Objasnio je da su za to nekad bili potrebni resursi cijele države, a danas to uz pomoć AI-ja mogu izvesti i male grupe.

Zašto Gejts AI poredi sa nuklearnim oružjem?

“Ovo je najopasnije čemu se čovječanstvo ikad približilo. U poređenju s ovim, nuklearno oružje djeluje bezazleno”,  rekao je.

Gejts smatra da je neposredna opasnost od zloupotrebe veća od dugoročne mogućnosti da sistemi izmaknu ljudskoj kontroli.

Taj rizik, kaže, dodatno povećava to što vladama nedostaje tehnička stručnost kakvu su istorijski razvile za nuklearno oružje, budući da je vještačka inteligencija potekla iz privatnog sektora.

Za Meet the Press je izjavio da bi vlade trebalo da zahtijevaju od programera da u sisteme ugrade nadzorne i zaštitne mehanizme, što uključuje i zapise koji bi vlastima omogućili uvid u korištenje modela.

“Niko ne smatra da je samoregulacija dovoljna” rekao je Gejts, prenosi Index.

Ipak, on ne misli ni da je sigurnosni prekidač dovoljan, jer vještačka inteligencija još nije na nivou na kojem bi mogla preuzeti kontrolu nad računarima i oduprijeti se gašenju.

“Ako želite suzbiti loše ponašanje, morate imati uvid i zapise o tome šta se radi. Sami sigurnosni prekidači ne bi spriječili takve tragedije”, rekao je.

Zašto vodeći laboratoriji razmatraju usporavanje razvoja?

Gejtsa prvenstveno brine ljudska zloupotreba, ali industrija se suočava i s drugim strahom: da će se AI sistemi početi ponašati na načine koje njihovi kreatori ne mogu kontrolisati. Bivši istraživač OpenAI-ja Džejkob Kokson dao je otkaz u Anthropicu ranije ovog mjeseca i optužio oba vodeća laboratorija da “jure prema samopoboljšavajućoj superinteligenciji i kockaju se s našim životima”.

Izvršni direktor Anthropica Dario Amodei u eseju je ovog mjeseca pozvao na usporavanje razvoja, a šef OpenAI-ja Sem Altman takođe je priznao da će industrija možda morati usporiti treniranje naprednih modela kako bi se uskladila sa sigurnosnim standardima.