EU styrker AI-reguleringen med nye krav til merking og tilsyn

EUs AI Act har nå aktivert sine åpenhetsregler, som innebærer at AI-systemer som chatbots og andre interaktive løsninger må informere brukerne om at de snakker med en maskin. Innhold generert eller endret av AI, som bilder, video og lyd, må merkes og ha maskinlesbare kjennetegn for å forenkle oppdagelse. Dette skal bidra til åpenhet og tillit til AI-teknologien for vanlige kontoransatte, da det gjør det enklere å skille mellom menneskeskapt og AI-skapt innhold. Samtidig har AI Office, EUs nyopprettede AI-tilsynsorgan, fått utvidede fullmakter til å overvåke og håndheve forpliktelser for tilbydere av generell AI, altså AI-modeller som kan brukes til en rekke forskjellige oppgaver. Dette gir AI Office eksklusiv kompetanse over AI-systemer hvor modellen og systemet er utviklet av samme tilbyder, eller når systemtilbyderen er del av samme foretak som den generelle AI-modellen. For en CTO eller AI-fagperson betyr dette et klarere ansvar for utviklere av fundamentale AI-modeller, og et signal om økt regulering rundt kjerneteknologien. Disse endringene vil kreve at norske bedrifter som utvikler eller bruker AI-systemer som interagerer med kunder, må gjennomgå sine løsninger for å sikre at de oppfyller de nye merke- og åpenhetskravene. Det vil også påvirke hvordan AI-modeller fra internasjonale leverandører kan integreres, ettersom merking blir avgjørende for å unngå sanksjoner. Dette er et klart steg mot et mer regulert AI-marked, noe som kan gi både utfordringer og muligheter for innovasjon innenfor tydeligere rammer.