KI-forordningen setter rammer for trygg KI i offentlig sektor

Norge har lenge operert med fragmenterte lover for digitalisering, der automatiserte beslutningsprosesser er forbeholdt systemer med forhåndsprogrammerte regler. Dette har ekskludert tradisjonell kunstig intelligens (KI), som har blitt ansett som for ukontrollerbar i saksbehandling. Med EUs nye KI-forordning, som nylig ble endelig vedtatt, endres dette. Forordningen legger til rette for at KI-systemer, som oppfyller definerte krav til blant annet robusthet og etisk bruk, kan tas i bruk på en forsvarlig måte. Dette betyr et skifte fra en restriktiv tilnærming til en som anerkjenner KIs potensial. Selv om Norge allerede har en KI-sandkasse, gir forordningen klarere rammer for testing av KI-systemer utenfor slike kontrollerte miljøer. Dette helhetlige rammeverket er spesielt viktig for å samordne en hittil usystematisk norsk tilnærming, preget av enkeltstående løsninger. Forskere bak en ny analyse for Nordisk ministerråd anbefaler å vurdere de norske reglene for automatisert saksbehandling, slik at de reflekterer at KI nå er en legitim del av fremtidens systemer. De peker også på behovet for å utrede regler for områder utenfor forordningens virkeområde, som forsvar og nasjonal sikkerhet, der KI kan ha stor betydning for enkeltpersoner. Det er også et påtrengende behov for tydeligere regler for bruk av personopplysninger til KI-utvikling. Et eksempel er NAVs sandkasseprosjekt for sykefravær, som manglet rettslig grunnlag for å trene KI-modellen på historiske data. Offentlige anskaffelser kan spille en nøkkelrolle ved å stille spesifikke krav til KI-løsninger som fremmer forsvarlig bruk og ivaretar norske interesser.