Agent je hakovao statistički portal sa privatnim podacima iz australijskog javnog zdravstvenog sistema osiguranja Mediker (Medicare), dodao je.
Stručnjaci kažu da je ovo prvi poznati slučaj da je vještačka inteligencija ‘ušla’ u vladin sistem neke zemlje, javlja BBC dopisnica iz Sidneja Tifani Turnbul.
Možda su napadnuta još tri vladina sistema, rekao je australijski premijer.
Do kršenja bezbjednosti došlo je u junu, ali je OpenAI tek u avgustu saznao za to i nije prijavio australijskoj vladi sve do 10. septembra, prema Albanezu.
OpenAI tvrdi da nema dokaza da je pristupljeno medicinskim kartonima pacijenata, a Albanez je rekao da je imao „veoma iskren razgovor“ o incidentu sa Semom Altmanom, izvršnim direktorom OpenAI-ja.
Kompanija je saopštila da je kršenje bezbjednosti otkriveno tokom „sveobuhvatnog pregleda aktivnosti neusklađenosti modela“.
„Tokom ovog pregleda, identifikovali smo aktivnosti nekoliko sajtova i službi australijske vlade, dok su naši modeli pokušavali da pronađu dostupne odgovore i statistiku na pitanja o Australiji tokom interne procjene. Tokom ovog procesa, naši modeli su izvodili radnje koje nismo očekivali“, saopštila je kompanija.
‘Podaci nisu osjetljivi’
Prema kompaniji OpenAI, njihov model je pristupio „datotekama na nekim stranicama i uslugama australijske vlade“, između ostalog i stranici koja sadrži podatke iz australijskog zdravstvenog sistema Mediker.
Kompanija je saopštila da je model tražio statistiku i informacije o zdravstvenim sistemima.
Stručnjaci koje je konsultovao BBC rekli su da je ovo prvi poznati slučaj u svijetu da je model vještačke inteligencije napao vladinu veb-stranicu.
Prema australijskoj vladi, podaci kojima je pristupio agent OpenAI nisu osjetljivi, ali je ipak protestovala zbog onoga što se dogodilo i kako je Altmanova kompanija postupila sa incidentom.
Iako se dogodilo u junu, kompanija je saopštila da ga nije otkrila do avgusta, a zatim je prijavila imejlom poslatim na opštu adresu za upite građana vladine agencije.
Australijska agencija za sajber bezbjednost je obaviještena nekoliko dana kasnije.
Incident u Australiji dogodio se u vrijeme rastuće zabrinutosti zbog potencijalnih opasnosti od razvoja vještačke inteligencije i poslije niza hakovanja koje su počinili agenti vještačke inteligencije.
OpenAI je nedavno otkrio da su neki od njihovih naprednih modela pobjegli iz kontrolisanog okruženja za testiranje i napali nekoliko kompanija, među kojima i Hugging Face, koja je takođe specijalizovana za usluge vještačke inteligencije.
OpenAI je tek nedavno objavio niz izvještaja u kojima je detaljno opisano šest incidenata neočekivanog ili zabrinjavajućeg ponašanja njegovih modela vještačke inteligencije.
Kompanija je najavila plan za praćenje i otkrivanje takvih incidenata u budućnosti.
U objavi na blogu detaljno su opisani incidenti za koje se navodi da su otkriveni između aprila i avgusta, mada se ovaj u Australiji ne pominje.
Druge američke firme, poput Antropika (Anthropic), prijavile su slične incidente, podstičući strahove da bi razvoj ove nove tehnologije mogao da se okrene protiv ljudi.
Vodeći ljudi u ovoj industriji, Altman ili Amodej, šef kompanije Antropik, pozvali su na usporavanje razvoja vještačke inteligencije i uspostavljanje mehanizama kontrole i nadzora.
Ali američki predsjednik Donald Tramp izražava protivljenje regulisanju vještačke inteligencije na globalnom nivou, tvrdeći da su strahovi pretjerani i, u njegovom karakterističnom stilu, naziva ih „lažnim vijestima“.
Kao odgovor na hakovanje Medikera, australijska vlada je pokrenula brzu reviziju načina na koji se nosi sa vještačkom inteligencijom.
Revizija će ispitati da li su postojeće zakonodavstvo i upravljanje „prikladni za pripremu i reagovanje na sajber incidente koji uključuju vještačku inteligenciju“, navodi se u saopštenju vlade.
Revizija, koju predvode Odjeljenje premijera i kabineta, treba da razmotri aranžmane za razmjenu informacija sa firmama za vještačku inteligenciju i drugim zemljama Komonvelta.
