EU strammer inn AI-bruken: Spania må bevise datakvalitet

Den nye AI-loven fra EU innfører omfattende krav til datastyring for selskaper som bruker kunstig intelligens, og går lenger enn dagens GDPR-regler. Spanske virksomheter må nå grundig dokumentere opprinnelsen til treningsdata, prosesser for automatiske beslutninger og grensekryssende datastrømmer, fra utvikling til kontinuerlig drift. Regelverket krever blant annet obligatoriske konsekvensanalyser for høyrisiko AI-systemer, som må vise hvordan systemene ivaretar individuelle rettigheter, i tillegg til å vurdere datatilstrekkelighet og algoritmisk rettferdighet. Dette betyr at norske virksomheter som opererer i eller med EU, må forberede seg på lignende krav for å unngå bøter og omdømmetap. Kravene forventes å bli en felles standard på tvers av EØS-området. Selskaper må etablere systemer for å spore dataenes 'slektstre' (data lineage), automatisk oppdage og rette skjevheter, og sikre uforanderlige revisjonsspor for alle AI-prosesser. Målet er å sikre sporbarhet og ansvarlighet gjennom hele AI-utviklingssyklusen, noe som krever arkitektoniske endringer i datahåndteringen. Videre kreves det løpende overvåking av treningsdata for å oppdage 'datadrift' — altså endringer i data over tid som kan påvirke AI-systemets ytelse. For AI-systemer som tar automatiske beslutninger som berører enkeltpersoner, er det også krav om sanntidsforklarbarhet (explainability) og transparens for å gi brukere innsikt i hvordan beslutninger fattes.