Evaluering av AI-aktens krav og LLM-støtte

Den nye EU AI-loven pålegger organisasjoner å etterleve krav til åpenhet, risikostyring og sporbarhet for AI-systemer. For å implementere dette i praksis må disse forpliktelsene oversettes til konkrete, testbare krav og verifiserbart bevis, noe mange organisasjoner per i dag mangler systematiske prosesser for. Forskere har undersøkt hvordan organisasjoner forholder seg til disse utfordringene, og om verktøy basert på storskala språkmodeller (LLM) kan bidra til å tette dette gapet. Studien, som kombinerte ekspertintervjuer og en spørreundersøkelse med fagpersoner fra områder som kravspesifikasjon, datavitenskap og compliance, avdekket at EU AI-loven anerkjennes som svært relevant. Imidlertid er det ofte en mangel på strukturerte mekanismer for å fange opp lovkrav, følge opp endringer i prosjekter, og opprettholde sporbarhet og bevis gjennom systemets livssyklus. Deltakerne i studien uttrykte at LLM-baserte verktøy har et potensial for å koble lovkrav til spesifikke funksjonelle krav, vurdere dekning av kravene, og organisere dokumentasjon. Samtidig var det sterke bekymringer knyttet til fullstendig automatisering, og det ble understreket et behov for trygge rammer og menneskelig overvåkning for slike verktøy. Forskerne skisserer også minimumskrav for en "lukket sløyfe"-tilnærming som er tilpasset EU AI-loven, basert på funnene.