Nova grožnja v Gmailu: kako AI lahko zavede uporabnike

Ena izmed najbolj problematičnih je tehnika “indirect prompt injection”. Gre za tehniko, pri kateri napadalci v zunanje vire – e-pošto, dokumente ali koledarske povabila – skrijejo zlonamerna navodila, ki nato poskušajo zavesti umetno inteligenco, da iz uporabnika izvleče občutljive podatke ali ga zavede v nezaželene dejanja. Zakaj je nevarno? Največja past je v tem, da uporabnik vidi povsem običajno sporočilo, umetna inteligenca pa v ozadju sledi skritim ukazom.