Njemačka vlada izrazila je zabrinutost zbog modela vještačke inteligencije američke kompanije OpenAI koji je izmakao kontroli.

„Taj incident još jedan je primjer da svjedočimo promjeni paradigme, kada je riječ o sposobnostima AI-agenata“, rekao je portparol Ministarstva za digitalizaciju.

Kako je naveo, posljednjih mjeseci primjećuje se da sposobnosti takozvanih frontier AI modela – dakle najnaprednijih modela vještačke inteligencije – naglo rastu, a s njima i rizici.

„To bi moglo iz temelja da promijeni i nivo prijetnji u sajber-prostoru“, dodao je portparol.

Prema njegovim riječima, potrebno je obezbijediti da evropske kompanije i institucije zadužene za bezbjednost imaju pristup naprednim modelima vještačke inteligencije. U prošlosti, kako je rekao, to nije uvijek bio slučaj. Zato njemačka vlada polaže velike nade u to da će evropski akteri postati značajniji i u toj oblasti.

Ozbiljan incident

Američka softverska kompanija OpenAI prethodno je preuzela odgovornost za hakerski napad na startap Hugging Face. Kompanija je u objavi na svom blogu priznala da se autonomni model vještačke inteligencije tokom internih testiranja oteo kontroli.

Softverska kompanija, na čijem je čelu Sam Altman, navela je da je riječ o „nezabilježenom sajber-incidentu“ i najavila dodatno jačanje bezbjednosnih mjera.

Portparol njemačkog Saveznog ureda za bezbjednost informacionih tehnologija (BSI) rekao je da činjenica da je vještačka inteligencija pobjegla iz „bezbjednog“ okruženja za testiranje (sandbox) i potom se samostalno kretala internetom – predstavlja ozbiljan incident.

Prema njegovim riječima, vještačka inteligencija je pronašla i iskoristila bezbjednosne propuste kako bi izvela napad na kompaniju.

Kako piše njemački tabloid Bild, vještačka inteligencija je čak aktivno brisala svoje tragove, „što pokazuje autonomiju modela“. Sličan scenario mogao bi se dogoditi i ako bi cilj napada bio, na primjer, isključivanje električne energije u nekom gradu.

Novo doba sajber-bezbjednosti

Ipak, njemački Savezni zavod za bezbjednost informacionih tehnologija (BSI) smatra da je malo vjerovatno da će u skorije vrijeme doći do većeg broja sličnih incidenata, jer je za izlazak modela vještačke inteligencije iz laboratorijskog okruženja potrebno mnogo resursa.

Uprkos tome, BSI je, govoreći o modelima poput Claude Mythosa, OpenAI GPT-5.6 i drugim najsavremenijim modelima vještačke inteligencije, ocijenio da je nastupilo „novo doba sajber-bezbjednosti“.

Predsjednica BSI Klaudija Platner već je više puta upozoravala da brzina razvoja vještačke inteligencije zahtijeva znatno bolje pripreme kako bi se na sajber-napade moglo reagovati što je moguće brže.