EU skjerper AI-tilsynet: Nye regler for generativ AI og plattformer

Den europeiske union innførte 2. august nye krav under sin omfattende AI-forordning, som dikterer strengere regler for leverandører av AI-systemer som opererer i EU. Dette omfatter forbud mot visse AI-praksiser, tydelige krav til generelle AI-modeller og nye krav til åpenhet rundt AI-generert innhold. Selskaper som tilbyr generativ AI – altså modeller som kan skape tekst, bilder eller kode – må nå markere alt innhold som er skapt av AI. I tillegg har Europakommisjonen utpekt ChatGPT, Reddit og Roblox som «svært store nettplattformer» under Digital Services Act (DSA) 31. august. Dette medfører skjerpede forpliktelser knyttet til nettsikkerhet for disse tjenestene, inkludert risikovurderinger og tiltak mot ulovlig innhold. For norske virksomheter betyr dette at dersom de bruker eller utvikler AI-løsninger som når ut til EU-markedet, må de forholde seg til de nye kravene. Enten det handler om åpenhet rundt AI-generert innhold eller forpliktelser for plattformansvar, er det nødvendig å tilpasse seg det nye europeiske regelverket for å unngå sanksjoner. Myndighetene har allerede begynt å kreve inn informasjon om modellens sikkerhet, evalueringer og rapportering av alvorlige hendelser. Særlig gjelder dette såkalte grunnmodeller (general-purpose AI models), som er AI-systemer som kan utføre et bredt spekter av oppgaver, og som ofte ligger til grunn for mer spesialiserte AI-applikasjoner. Disse modellene krever grundig dokumentasjon og sikkerhetstesting. Den tyske finansmyndigheten BaFin har også fått tilsynsansvar for AI-systemer relatert til finans. Denne konsentrasjonen av regulering viser en økende trend mot myndighetskontroll med AI-utviklingen, både på tvers av bransjer og landegrenser.