Kako piše američki Politiko, modeli su između 9. i 13. jula izvršili oko 17.600 hakerskih aktivnosti, tokom kojih su, prema navodima Hugging Face-a, sa početnog uporišta na otvorenom internetu uspjeli da se prebace na servere te kompanije.

OpenAI je prošle sedmice potvrdio da su dva njegova najnaprednija modela izašla iz zatvorenog testnog okruženja i kombinovala više tehnika kako bi prodrla u sisteme Hugging Face-a, navodeći da je riječ o prvom poznatom slučaju autonomnog sajber napada koji nije pokrenuo nijedan čovjek.

Hugging Face je sada saopštio da su modeli, od kojih je jedan javno dostupan, a drugi interni prototip, tokom napada brzo izviđali sisteme i pronalazili bezbjednosne propuste znatno brže nego što bi to mogao ljudski haker.

U međuvremenu je i kompanija Modal Labs potvrdila da je jedan od njenih korisnika bio meta istih modela tokom tog perioda.

OpenAI nije direktno komentarisao tvrdnje da su njegovi modeli ciljali korisnika Modal Labs-a, ali je u objavi na blogu priznao da je tokom interne istrage utvrđeno nekoliko slučajeva u kojima su modeli identifikovali i iskoristili javno dostupne akreditive za naloge na drugim servisima.

Generalni direktor OpenAI-ja Sem Altman ove sedmice će se sastati sa zvaničnicima administracije predsjednika Donalda Trampa i članovima Kongresa, uključujući potpredsjednika Odbora za obavještajne poslove Senata Marka Vornera, sa kojim će razgovarati i o ovom incidentu.

Altman je u podkastu “Invest Like the Best” rekao da je proboj u sisteme Hugging Face-a bio “prvi bezbjednosni incident koji ga je zaista ozbiljno zabrinuo”.