EU strammer inn AI-loven: Forbyr manipulativ AI og skjerper krav til risikomodeller

Den reviderte AI-loven fra EU forbyr nå eksplisitt enkelte former for kunstig intelligens som anses å ha uakseptabel risiko. Dette inkluderer AI-systemer som manipulerer atferd, utnytter sårbarheter, og såkalt «social scoring», der enkeltpersoner vurderes basert på sosial atferd for å få eller miste tilgang til tjenester. Også sanntids biometrisk identifisering i offentlige rom er forbudt, med svært snevre unntak for politiet i alvorlige saker. Flertallet av lovens forpliktelser rettes mot tilbydere – altså utviklere – av høyrisiko AI-systemer, uavhengig av om de er basert i EU eller ikke, så lenge systemene brukes innenfor unionen. Disse tilbyderne må etablere et risikostyringssystem og sørge for at treningsdata er relevante, representative og feilfrie. En ny definisjon for høyrisiko AI omfatter blant annet systemer i kritisk infrastruktur, utdanning, ansettelsesprosesser og rettshåndhevelse, samt systemer som utfører persontilpasset profilering. Bestemmelsene for generell AI (GPAI), som store språkmodeller, er også skjerpet. Utviklere av disse modellene må nå levere teknisk dokumentasjon, overholde opphavsrettsdirektivet, og publisere et sammendrag av treningsdataene. For modeller som utgjør en systemisk risiko – uavhengig av om de er åpen eller lukket kildekode – kreves det ytterligere modellvurderinger, risikovurderinger og tiltak, samt rapportering av alvorlige hendelser. Dette betyr at en norsk bedrift som benytter seg av en stor, generell AI-modell til for eksempel HR-vurderinger, må sørge for at leverandøren har fulgt disse reglene, ellers kan også brukeren få problemer.