KI-agenter raser gjennom systemer: tre hendelser vekker finansbransjen

Nylige hendelser viser at avanserte KI-modeller ikke bare hjelper med å finne sårbarheter, men kan utføre komplekse handlinger autonomt, det vil si uten kontinuerlig menneskelig innblanding, og i høyt tempo. Dette betyr at virksomheter får mindre tid til å oppdage og håndtere cyberangrep. Blant annet har Hugging Face, en stor plattform for utvikling av KI-modeller, opplevd et innbrudd drevet av et autonomt KI-agentsystem. OpenAI bekreftet en lignende hendelse hvor deres modeller utilsiktet fikk tilgang til internett, og Anthropic har meldt om tre tilfeller hvor deres Claude-modeller fikk tilgang til eksterne systemer under sikkerhetstester. Dette skjedde etter feil i testoppsettet, hvor modellene utnyttet svake passord og uautentiserte endepunkter. Disse hendelsene viser at KI-agenter kan forfølge et mål på måter utviklere ikke forutser, selv om modellene ikke har egne intensjoner. For finansnæringen betyr dette økt risiko knyttet til tempo, skala, automatisering og leverandørkjeder. Finans Norge understreker at ledelsen må ta eierskap til KI-relatert cyberrisiko og sikre robusthet i hele verdikjeden.