Model nije ispunio očekivanja

OpenAI odustao od lansiranja novog modela – veštačka inteligencija samostalno hakovala sajt australijske vlade

"OpenAI" neće pustiti u upotrebu svoj novi model vještačke inteligencije GPT-6.1 „Astra“ zbog bezbjednosnih problema, nakon incidenta kada je novi model samostalno hakovao sajtove australijske vlade.
Foto: X

Ovaj sistem vještačke inteligencije može samostalno da obavlja zadatke poput pretraživanja interneta i korišćenja aplikacija, ali „nije u potpunosti ispunio očekivane standarde“, izjavila je Sači Džejn, direktorka sektora za bezbjednosne sisteme u kompaniji “OpenAI”.

Kompanija je u utorak objavila i izvještaj o incidentima koji su se dogodili u junu, ali su objelodanjeni tek prošle nedelje. Tada su modeli ove kompanije bez odobrenja pristupili veb-sajtovima i sistemima australijske vlade.

Ti incidenti, kao i slični bezbjednosni propusti u radu modela koje su razvile velike kompanije za vještačku inteligenciju, poslednjih nedelja dodatno su pojačali raspravu o rizicima koje ova tehnologija nosi.

Vodeći stručnjaci iz oblasti vještačke inteligencije, među kojima su izvršni direktor “OpenAI” Sem Altman i čelnik kompanije „Antropik“ Dario Amodei, pozvali su industriju da uspori razvoj tehnologije zbog zabrinutosti za njenu bezbjednost.

Odluka kompanije “OpenAI”, o kojoj je prvi izvijestio Volstrit džornal, rijedak je slučaj da veliki proizvođač vještačke inteligencije odustane od objavljivanja novog modela zbog bezbjednosnih razloga.

Model nije ispunio očekivanja u pogledu „poštovanja utvrđenih ovlašćenja i ograničenja, kao i načina na koji korisniku saopštava kakav je posao obavio. Želimo da budemo sigurni da je razvoj naših modela bezbjedan, bez obzira na to da li se oni koriste unutar kompanije ili ih plasiramo korisnicima“, rekla je Džejn.

Napredni model „Astra“, zasnovan na autonomnom obavljanju zadataka, predstavljen je u septembru i specijalizovan je za složeno zaključivanje i samostalno izvršavanje zadataka. Njegovi tvorci tvrde da je njegov razvoj rezultat „višegodišnjeg istraživanja i velikih ulaganja“.

Sajber-napadi u Australiji

Premijer Australije Entoni Albaneze saopštio je prošle nedelje da je autonomni agent kompanije “OpenAI” u junu neovlašćeno pristupio veb-sajtovima i sistemima australijske vlade. Stručnjaci su ocijenili da je riječ o prvom poznatom slučaju takve vrste u svijetu.

Albaneze je kritikovao “OpenAI” zato što je australijsku vladu o incidentu obavijestio putem običnog imejla, umjesto da direktno stupi u kontakt sa nadležnim zvaničnicima.

“OpenAI” je u utorak saopštio da žali zbog incidenta i priznao da je „trebalo bolje da postupi prilikom reagovanja“.

Kompanija je navela da je pokrenula istrage čim je sredinom avgusta saznala za incidente i da je organizacije koje su bile pogođene obavijestila u periodu od 10. do 24. septembra.

„Željeli smo da nadležnim institucijama dostavimo detaljan izveštaj nakon završetka istrage“, saopštila je kompanija, uz napomenu da je trebalo ranije da podijeli preliminarne rezultate i redovno obavještava australijske vlasti o napretku istrage.

Podijelite članak
guest
0 Komentara
Najstariji
Najnoviji Popularni
čitanjem skaj poruka nastavljeno suđenje navodnoj kriminalnoj grupi ZORANA LAZOVIĆA

“Reci ti Saši da ćemo sve uradit’ samo da ovog Jovicu svežemo”

Stariji Lazović je optužen da je formirao kriminalnu grupu čiji članovi su, tvrdi specijalni tužilac Miloš Šoškić, postali penzionisani glavni...
12:28
završen oglas sudskog savjeta

Devetoro sudija bi da napusti Osnovni i pređe u Viši sud

Da li će i ko od njih biti izabran za nove sudije Višeg suda u Podgorici odlučiće Sudski savjet na...
11:44
nastavljeno saslušanje bivšeg predsjednika Odbora direktora nekadašnje državne kompanije

AFERA Telekom – Martinović: Skrinšot s portala dali kao ključni dokaz protiv Obradovića; Ćirović: Autentičnost će utvrditi vještak

"Zaštitnica za imovinsko-pravne odnose taj mejl nije dostavila u izvornom elektronskom obliku, već kao snimak ekrana sa jedne medijske platforme",...
13:45
usvojena žalba specijalnog državnog tužilaštva

Apelacioni sud oborio rješenje troje kolega: Biznismenu Mijajloviću, ipak, sude za pomaganje bivšoj vlasti DPS-a

Optužnicom su obuhvaćeni i bivši šef Kontraobavještajne službe Agencije za nacionalnu bezbjednost i funkcioner Uprave policije Drago Spičanović, nekadašnji načelnik...
13:33