Sikkerhetsselskap utlover tre millioner kroner for å lure AI-agenter

Sikkerhetsselskapet Gray Swan ruller ut en fornyet versjon av testplattformen Arena, rettet mot autonome AI-agenter. Sammen med teknologiselskaper som Anthropic, Meta og Google DeepMind utlyser de 300 000 dollar – over tre millioner kroner – i premier for å avdekke svakheter. Hovedfokuset er indirekte ledetekstinjeksjon, der angripere gjemmer skjulte instrukser på nettsider som agenten leser, for slik å kapre styringen av systemet. Tidligere handlet sikkerhetstesting mest om å lure samtaleroboter til å skrive upassende tekst, noe testere ofte klarte på under et døgn mot selv de mest robuste modellene. Når selskaper nå lar agenter utføre faktiske handlinger på vegne av brukere, krever testingen langt mer avansert teknisk kompetanse. Gray Swan kjører angrepene i isolerte testmiljøer for å overvåke om agentene bryter ut av rammene sine eller utnytter ukjente sårbarheter. For norske virksomheter som vurderer å la AI hente inn anbud eller lese eksterne dokumenter automatisk, understreker konkurransen en reell risiko: En agent som behandler eksterne data, kan manipuleres av instrukser bakt inn i vanlige nettsider eller vedlegg. Grundig testing og klare tilgangsbegrensninger blir derfor avgjørende før programvaren kobles direkte til interne driftssystemer.