Ovaj sistem vještačke inteligencije može samostalno da obavlja zadatke poput pretraživanja interneta i korišćenja aplikacija, ali „nije u potpunosti ispunio očekivane standarde“, izjavila je Sači Džejn, direktorka sektora za bezbjednosne sisteme u kompaniji “OpenAI”.
Kompanija je u utorak objavila i izvještaj o incidentima koji su se dogodili u junu, ali su objelodanjeni tek prošle nedelje. Tada su modeli ove kompanije bez odobrenja pristupili veb-sajtovima i sistemima australijske vlade.
Ti incidenti, kao i slični bezbjednosni propusti u radu modela koje su razvile velike kompanije za vještačku inteligenciju, poslednjih nedelja dodatno su pojačali raspravu o rizicima koje ova tehnologija nosi.
Vodeći stručnjaci iz oblasti vještačke inteligencije, među kojima su izvršni direktor “OpenAI” Sem Altman i čelnik kompanije „Antropik“ Dario Amodei, pozvali su industriju da uspori razvoj tehnologije zbog zabrinutosti za njenu bezbjednost.
Odluka kompanije “OpenAI”, o kojoj je prvi izvijestio Volstrit džornal, rijedak je slučaj da veliki proizvođač vještačke inteligencije odustane od objavljivanja novog modela zbog bezbjednosnih razloga.
Model nije ispunio očekivanja u pogledu „poštovanja utvrđenih ovlašćenja i ograničenja, kao i načina na koji korisniku saopštava kakav je posao obavio. Želimo da budemo sigurni da je razvoj naših modela bezbjedan, bez obzira na to da li se oni koriste unutar kompanije ili ih plasiramo korisnicima“, rekla je Džejn.
Napredni model „Astra“, zasnovan na autonomnom obavljanju zadataka, predstavljen je u septembru i specijalizovan je za složeno zaključivanje i samostalno izvršavanje zadataka. Njegovi tvorci tvrde da je njegov razvoj rezultat „višegodišnjeg istraživanja i velikih ulaganja“.
Sajber-napadi u Australiji
Premijer Australije Entoni Albaneze saopštio je prošle nedelje da je autonomni agent kompanije “OpenAI” u junu neovlašćeno pristupio veb-sajtovima i sistemima australijske vlade. Stručnjaci su ocijenili da je riječ o prvom poznatom slučaju takve vrste u svijetu.
Albaneze je kritikovao “OpenAI” zato što je australijsku vladu o incidentu obavijestio putem običnog imejla, umjesto da direktno stupi u kontakt sa nadležnim zvaničnicima.
“OpenAI” je u utorak saopštio da žali zbog incidenta i priznao da je „trebalo bolje da postupi prilikom reagovanja“.
Kompanija je navela da je pokrenula istrage čim je sredinom avgusta saznala za incidente i da je organizacije koje su bile pogođene obavijestila u periodu od 10. do 24. septembra.
„Željeli smo da nadležnim institucijama dostavimo detaljan izveštaj nakon završetka istrage“, saopštila je kompanija, uz napomenu da je trebalo ranije da podijeli preliminarne rezultate i redovno obavještava australijske vlasti o napretku istrage.
