Z razvojom umetne inteligence se pojavlja tudi nova oblika kibernetskih groženj. Ena izmed najbolj problematičnih je tehnika “indirect prompt injection”. Gre za tehniko, pri kateri napadalci v zunanje vire – e-pošto, dokumente ali koledarske povabila – skrijejo zlonamerna navodila, ki nato poskušajo zavesti umetno inteligenco, da iz uporabnika izvleče občutljive podatke ali ga zavede v nezaželene dejanja.
Zakaj je nevarno? Največja past je v tem, da uporabnik vidi povsem običajno sporočilo, umetna inteligenca pa v ozadju sledi skritim ukazom. Tako se lahko prikaže ponarejeno obvestilo o ogroženem računu, lažen kontakt za “tehnično podporo” ali poziv k razkritju gesla.skrite plasti vsebine (npr. HTML elemente ali oblikovanje), ki so ljudem nevidni, AI pa jih interpretira kot ukaz.
Strokovnjaki opozarjajo Varnostni raziskovalci ocenjujejo, da je “indirect prompt injection ” trenutno ena najresnejših ranljivosti pri orodjih, ki temeljijo na velikih jezikovnih modelih. Ogroženi niso le posamezniki, temveč tudi podjetja in državne ustanove, saj poslovni sistemi postajajo čedalje bolj povezani z umetno inteligenco.
Kako se zaščititi?
AI izhod obravnavajte previdno. Povzetke in predloge vzemite kot pomoč, ne kot nesporno dejstvo.
Nikoli ne delite gesel. Če AI v povzetku pokaže varnostno opozorilo ali zahteva geslo, tega ne upoštevajte.
Opozorila preverjajte pri viru. Prave varnostne informacije poiščite v nastavitvah Google računa ali v uradnem Gmail vmesniku.
Uporabljajte dvostopenjsko preverjanje in kjer je mogoče passkeye , saj so odpornejši na krajo podatkov.
Redno izvajajte Google Security Checkup. Preverite, katere aplikacije in naprave imajo dostop do računa, in odstranite sumljive.
Pazite na filtre in preusmeritve v Gmailu, saj lahko kažejo na kompromitacijo.
Kaj storiti, če ste že nasedli? Če ste na podlagi AI-povzetka že sledili sumljivim navodilom:
takoj spremenite geslo,
preverite dejavnost na računu,
odstranite sumljive aplikacije tretjih ponudnikov,
sporočilo prijavite kot phishing.
V podjetjih je priporočljivo tudi rotiranje dostopnih ključev ter izvedba forenzične analize sistema .
Največja nevarnost “indirect prompt injection” je njegova nevidnost. Ker uporabnik ne vidi nič sumljivega, je zavedanje in previdnost še toliko pomembnejša. Umetna inteligenca naj bo pomočnik – ne pa zaupanja vredni varnostni svetovalec. Opozorila vedno preverjajte pri uradnih virih in tako ostanite korak pred napadalci.
Vir: Nadlani.si
