Oni su za Bloomberg rekli da je Altman na sastanku sa svim zaposlenima ove nedjelje poručio da bi OpenAI, koji je kreirao ChatGPT, mogao da uspori tempo razvoja svoje vještačke inteligencije, možda u saradnji sa nekoliko drugih laboratorija za vještačku inteligenciju, iako neke od njih možda neće pristati na takav potez.
Posljednjih nedjelja, zaposleni u vodećim kompanijama za vještačku inteligenciju javno su izrazili zabrinutost zbog povećanih rizika koje nose napredni sistemi vještačke inteligencije, što je podstaklo zabrinutost unutar samih kompanija.
I OpenAI i njihov rival, kompanija Anthropic PBC, ranije ove godine podnijeli su povjerljivu dokumentaciju za izlazak na berzu.
Kompanija OpenAI odbila je da komentariše ove navode.
Glavni naučnik te kompanije, Jakub Pačocki, nedavno je objavio tekst u kojem upozorava na opasnosti koju vještačka inteligencija nosi sa sobom i navodi da smatra da bi kompanije koje se bave ovom tehnologijom trebalo da “koordinišu aktivnosti kako bi usporile budući razvoj kada je to potrebno”.
Pačocki je dodao da se nada da će “dobrovoljno usporavanje postati uobičajena praksa sve dok se ne uspostave zajednički bezbjednosni standardi”.
Iz kompanije OpenAI su saopštili da su nedavno usporili pojedine faze razvoja modela i obustavili određene procese interne obuke sistema vještačke inteligencije zbog zabrinutosti za bezbjednost.
U julu je Altman takođe izjavio da je razgovarao sa zvaničnicima Bijele kuće o “potrebi” da se tempo razvoja vještačke inteligencije uspori.
Istraživač u oblasti veštačke inteligencije Džejkob Kokson je prije dva dana, nakon što je napustio posao, optužio svoje bivše poslodavce – kompanije Anthropic i OpenAI, da se “kockaju” ljudskim životima u trci ka stvaranju superinteligentne vještačke inteligencije.
Kokson je u objavi na društvenim mrežama naveo da ljudi koji razvijaju vještačku inteligenciju vjeruju da bi ona mogla “sve nas da ubije do kraja decenije”.
Njegovi komentari su postali viralni, i privukli su više od 150 miliona pregleda, kao i pažnju istaknutih američkih kongresmena i javnih ličnosti.
Još dva istraživača, koji su nedavno napustili pozicije u kompanijama Anthropic i Google DeepMind, su takođe javno izrazili zabrinutost zbog brzog tempa razvoja vještačke inteligencije, ističući da proizvođači ove tehnologije moraju biti transparentniji u pogledu rizika koje ona nosi.
Krajem jula, više od 1.000 zaposlenih u svim vodećim kompanijama za vještačku inteligenciju potpisalo je peticiju kojom se zahtijeva uspostavljanje mehanizma za usporavanje tempa razvoja ove tehnologije, a nekoliko stručnjaka za bezbjednost vještačke inteligencije napustilo je vodeće laboratorije tokom posljednjih mjeseci.
Iako mnogi rukovodioci i zaposleni u industriji vještačke inteligencije već dugo upozoravaju na egzistencijalni rizik koji predstavljaju sistemi vještačke inteligencije, zabrinutost je porasla nakon saznanja da su “agenti” vještačke inteligencije kompanije OpenAI sarađivali kako bi zaobišli zaštitne mehanizme i hakovali internet stranicu treće strane.
Ovaj i drugi slični bezbjednosni incidenti podstakli su strah u vezi sa sajber-sposobnostima novih modela vještačke inteligencije, kao i zbog očiglednih neuspjeha kompanija koje se bave vještačkom inteligencijom da spriječe te sisteme da izmaknu kontroli.
