Sikkerhet1. august 2026

Agent-AI tar kostbare feil med usynlig datakvalitet

Av redaksjonen

Nye funn viser at AI-agenter tar feilbeslutninger i seks av ti tilfeller når de baserer seg på usynlige datafeil, uavhengig av modellens kapasitet.

Når , altså AI-systemer som handler selvstendig, bruker data med skjulte feil, kan det føre til kostbare feil. En studie avslører at selv høyt kompetente agenter tar feilbeslutninger i rundt 60 prosent av tilfellene når datakvaliteten er kompromittert på en måte agenten ikke kan se, for eksempel utdatert . Dette skjer uten at systemet selv flagger dataproblemer. Studien testet agentene på et scenario med prising av varepåfylling og fant at feilraten er den samme på tvers av fire ulike modellnivåer. Dette indikerer at økt modellkapasitet, målt i regnekraft og "", ikke gjør agentene mer skeptiske eller bedre til å identifisere slike skjulte datafeil. Problemet ligger ikke i agentens evne til å resonnere, men i selve datagrunnlaget den får. En løsning er å implementere en datakvalitetskontroll før agenten handler. En slik sjekk, som vurderer metadata som aktualitet og herkomst, kan forhindre feilene. Forskerne understreker at dataintegritet er en egen dimensjon, adskilt fra modellens intelligens, og krever tiltak som validerer data før de når agenten.