AI i forsyningskjeder krever strengere styring

Når kunstig intelligens (KI) tar selvstendige beslutninger i forsyningskjeden, som å velge leverandører eller godkjenne forsendelser, faller ansvaret for eventuelle feil på bedriften selv. Dette endrer landskapet fra ren automatisering til et økt fokus på styring, altså hvordan systemene kontrolleres og overvåkes. Regulatoriske myndigheter i både EU og USA forventer at selskaper som bruker KI, kan dokumentere forsvarlig tilsyn og kontroll med systemene. EU-kommisjonens KI-forordning, for eksempel, pålegger strenge forpliktelser for dem som implementerer KI, særlig i risikofylte områder. Dette gjelder selv om KI-systemene er utviklet av tredjeparter. Praktisk betyr dette at norske bedrifter må ha en tydelig oversikt over hvor KI brukes, etablere klare «verneregler» for høyrisikoaktiviteter og regelmessig teste KI-ens resultater for avvik. En rapport viser at 70 prosent av organisasjoner har opplevd minst én betydelig cyberhendelse i fjor, og at 31 prosent ble rammet av angrep via forsyningskjeden — noe som understreker viktigheten av kontroll. God dokumentasjon av menneskelig gjennomgang, godkjenningsterskler og testing er derfor avgjørende. Det viser at bedriften har fulgt nødvendige prosedyrer hvis KI-drevne beslutninger senere blir stilt spørsmål ved, og bidrar til å redusere både juridisk og regulatorisk risiko.