U detaljnom blog postu, Google je otkrio novu vrstu prijetnje svojoj globalnoj korisničkoj bazi: indirektne promptove. Za razliku od konvencionalnih hakerskih taktika koje vas navode da otkrijete svoje informacije putem lažnih veb lokacija ili sumnjivih linkova, ova koristi AI alate na koje se sada oslanjamo.

Ovi skriveni promptovi mogu manipulisati generativnim AI sistemima, poput onih ugrađenih u vaše mejlove ili ekstenzije pregledača, i da djeluju u ime napadača. To znači da bi vaš AI asistent integrisan u Gmail, teoretski, mogao biti prevaren da prosljeđuje vaše poruke, dijeli vaš kalendar ili druge lične detalje – sve bez vašeg znanja ili pristanka.

Kako izgleda napad

Nova metoda koristi način na koji AI obrađuje ulaz iz naizgled benignih izvora. Na primjer, kada primite neki Google dokument, vaši AI alati ga automatski skeniraju. Skriveni prompt u dokumentu “prevari” AI da se ponaša zlonamerno – možda šalje vaše privatne podatke na eksterni server ili kopira osjetljive informacije u drugi dokument.

Najgore je što možda nikada nećete shvatiti da se išta i dogodilo.

“Ovaj suptilan, ali potencijalno moćan napad postaje sve češći širom industrije, posebno jer sve više ljudi usvaja AI alate u svakodnevne radne tokove”, saopštio je Google.

Prijetnju čini posebno opasnom sljedeće:

– Nije potrebna interakcija korisnika. Ne morate ništa da kliknete.

– Nema instaliranog malvera. AI obavlja posao, misleći da vam pomaže.

– Može biti nevidljiva. Akcije se možda čak neće pojaviti u vašem logu aktivnosti.

Šta vi možete da uradite

Iako će potpuno rješenje vjerovatno zahtijevati promjene od strane tehnoloških kompanija i AI dobavljača, svakodnevni korisnici nisu bespomoćni. Evo nekoliko koraka koje možete preduzeti:

– Budite oprezni sa dijeljenim dokumentima i pozivnicama za kalendar, posebno od nepoznatih kontakata.

– Izbjegavajte ekstenzije trećih strana ili dodatke koji tvrde da integrišu AI, osim ako ne vjerujete izvoru.

– Onemogućite nepotrebne AI funkcije u podešavanjima Gmaila ili Docsa ako ih ne koristite često.

– Redovno pregledajte dozvole naloga i logove aktivnosti putem podešavanja vašeg Google naloga.

Pored ovoga, naravno, održavajte do sad najbolje dokazane prakse: dvofaktorsku autentifikaciju, jake, unikatne lozinke i pazite na neobično ponašanje ili obavještenja, prenosi “b92”.