Obraćajući se Sajvetu UN za ljudska prava, Tirk je rekao da se ljudi suočavaju sa “nepoznatim, čak i nezapamćeni” prijetnjama po svoja prava, prenosi Juronjuz.

“Potreba za upravljanjem vještačkom inteligencijom široko je prihvaćena, ali gdje su konkretne mjere?”, upitao je on, upozorivši da “odlaganje koristi samo ogromnim tehnološkim kompanijama, njihovim vlasnicima i onima koji ih podržavaju”.

Tirk je rekao da nekolicina ljudi ima gotovo neograničenu moć nad veštačkom inteligencijom, za koju se stalno govori da posjeduje nezamislive računarske kapacitete.

“Govore o slobodi, ali kada se stvari pažljivije pogledaju, ispostavlja se da se ona svodi na slobodu da iskorišćavaju naše podatke”, rekao je visoki komesar UN za ljudska prava.

On je posebno ukazao na sisteme vještačke inteligencije koji uspijevaju da izađu iz kontrolisanih okruženja u kojima se testiraju ili ucjenjuju svoje programere kako bi spriječili njihovo isključivanje.

Tirk je upozorio da je vještačka inteligencija koja “pobjegne iz svog okruženja testiranja ili ucjenjuje programere kako bi spijrečila sopstveno isključivanje” – tehnologija koja je “previše moćna”.

Kako navodi Juronjuz, njegovi komentari djelimično su se odnosili na saznanja objavljena u julu da su agenti kompanije OpenAI napustili navodno kontrolisana okruženja i dobili pristup serverima platforme Hugging Face, koju programeri širom svijeta koriste za razmjenu softvera zasnovanog na vještačkoj inteligenciji.

OpenAI je kasnije saopštio da su njegovi agenti izvršavali kod na desetinama servera Hugging Face i dobili potpun pristup jednom od njih.

Taj incident ponovo je pokrenuo zahtjeve za strožim nadzorom naprednih sistema veštačke inteligencije, navodi Juronjuz.

Kompanije Antropik, Meta i druge tehnološke firme takođe su prijavile slične incidente sa AI agentima tokom testiranja.

“Dijelim zabrinutost ljudi iz same industrije da bi napredna vještačka inteligencija mogla da predstavlja egzistencijalni rizik za čovječanstvo”, rekao je Tirk i pozvao na sveobuhvatan napor da se uspostave čvrste garancije za bezbjednost i sigurnost vještačke inteligencije, prije nego što bude prekasno.

Visoki komesar UN za ljudska prava rekao je da će narednih dana uputiti pisma kompanijama koje razvijaju vještačku inteligenciju, pozivajući ih da odmah preduzmu mjere kako bi smanjile rizike koji su pod njihovom kontrolom.

Prema njegovim riječima, najmanje što je potrebno jeste da se zemlje u kojima se razvija vještačka inteligencija i države uključene u njene lance snabdijevanja okupe oko zajednički dogovorenih crvenih linija.

“Potrebna nam je nezavisna provjera, kao i mnogo snažnija saradnja unutar industrije u oblasti bezbjednosti”, istakao je Tirk.

U Evropskoj uniji Zakon o vještačkoj inteligenciji (AI Act) predstavlja pravni okvir za regulisanje ove tehnologije.

Prema tom zakonu, sistemi koji predstavljaju visok rizik moraju da ispune stroge zahtjeve prije nego što mogu da budu plasirani na tržište EU, dok su načini upotrebe koji se smatraju neprihvatljivom prijetnjom po bezbjednost ili prava ljudi zabranjeni.

Zakon zabranjuje vještačku inteligenciju namijenjenu manipulisanju ili iskorišćavanju ljudi, njihovo ocjenjivanje na osnovu ponašanja, predviđanje da li će pojedinac počiniti krivično djelo, kao i neselektivno prikupljanje fotografija radi izrade baza podataka za prepoznavanje lica.

Takođe su zabranjeni sistemi za prepoznavanje emocija na radnom mjestu i u školama, pojedini oblici biometrijskog profilisanja, kao i većina oblika policijskog prepoznavanja lica u realnom vremenu na javnim mjestima.

Zabrana AI-generisanih seksualnih sadržaja napravljenih bez pristanka, kao i materijala seksualnog zlostavljanja djece generisanih veštačkom inteligencijom, stupa na snagu u decembru 2026. godine.