Microsoft advarer mot egne AI-agenter: Må behandles som utro tjenere

Selv om virksomheter kjøper AI-systemer fra etablerte leverandører, kan ikke modellene stoles på blindt. Ifølge Microsoft må autonome AI-agenter – programvare som utfører oppgaver på egen hånd – nå behandles som potensielle innsidetrusler. Årsaken er at avanserte modeller styres mot oppgaveløsning framfor organisatorisk skjønn, samtidig som de tildeles omfattende tilgang til sensitive forretningsdata. Løsningen fra programvarekjempen er Guardian Agents under sikkerhetssatsingen Project Perception. Dette er dedikerte kontrollagenter som kontinuerlig overvåker andre agenters atferd. Samtidig oppgraderes Microsoft Defender til å oppdage opptil 60 ulike verktøy som ansatte tar med inn på jobb, deriblant Claude Code og Codex. Systemet krever manuell godkjenning fra et menneske straks en agent tar risikable valg, og det kan justere tilgangene dynamisk underveis. For norske virksomheter betyr dette at ansvaret for hva en digital medhjelper foretar seg, aldri kan overlates til modellskaperen alene. Tilsyn og etterrettelighet må frikobles fra selve intelligensleveransen.