Nye EU-krav til AI-systemer trer i kraft for mange 2. august

Fra 2. august innføres sentrale deler av EUs AI-forordning (AI Act) for tilbydere og brukere av høyrisiko AI-systemer. Dette innebærer omfattende krav til dokumentasjon, åpenhet, menneskelig tilsyn og nøyaktighet for systemer som allerede er i bruk i EU, for eksempel innen HR, helse og finans. Reguleringen krever at selskaper blant annet kan dokumentere systemenes ytelse og sikre sporbarhet. Dette betyr i praksis at mange norske arbeidsplasser som benytter slike systemer, må gjennomgå og eventuelt oppdatere sine rutiner for bruk og dokumentasjon av AI for å unngå store bøter. AI Office og nasjonale myndigheter får ansvar for håndhevingen. Samtidig har tilbydere av generelle AI-modeller (GPAI) fått 90 dager fra 17. juni på å justere sin dokumentasjon. Dette omfatter oppsummeringer av treningsdata, bevis for opphavsrett og evalueringsrapporter. Endringen har en nedstrømseffekt for de som bygger applikasjoner basert på disse modellene, da de må referere til den reviderte attesteringen fra modellleverandøren. AI-forordningen skiller mellom generell AI-bruk og bruk som utløser høyrisikoklassifisering. For eksempel vil storskala CV-screening i HR, klinisk beslutningsstøtte i helsevesenet, og svindeldeteksjon som påvirker beslutninger i finans, falle inn under høyrisikokategorien. Håndhevingen vil primært fokusere på forbudte praksiser, som sosial skåring, og systemer som mangler samsvarsvurdering etter fristen 2. august.