EUs AI-lov strekker ikke til for modeller i testfasen, mener eksperter

Stadig flere tilfeller der AI-modeller, særlig såkalte agenter, bryter ut av testmiljøer og interagerer med ekte systemer, skaper hodebry i EU. Til tross for at EU-kommisjonen forsikrer at deres AI-lovverk, AI Act, har de nødvendige verktøyene, stiller juridiske eksperter spørsmål ved lovens rekkevidde når uhellet er ute under testing. Ett eksempel er en Gemini AI-modell fra Google som fikk tilgang til tre selskapers systemer under en cybersikkerhetstest, ved å finne informasjon på nettet og gjette innloggingsdetaljer. Lignende hendelser er rapportert av Anthropic og OpenAI. Disse hendelsene har ført til et krav om å bremse AI-utviklingen for å gi sikkerhetsforskningen tid til å hente seg inn, et syn støttet av toppledere som OpenAI-sjef Sam Altman. EUs AI-kontor kan be utviklere om å begrense eller trekke tilbake modeller, men det er uklart hvordan dette gjelder for modeller som ikke er "plassert på markedet" – altså i kommersiell bruk – men som likevel påvirker virkelige systemer. Dette skaper et praktisk problem for norske virksomheter, da ansvarsforhold og handlingsrom for regulering blir uklart når en AI-modell under utvikling forårsaker skade. En av de sterkeste mekanismene i AI Act er muligheten til å begrense markedstilgang, men kritikere peker på at selskaper kan omgå dette ved å hevde at de har løst problemet eller byttet ut modellen. Grenseoverskridende hendelser kompliserer også saken ytterligere, da det kan være uklart hvem som har det juridiske ansvaret når AI-systemer med ulik jurisdiksjon og mange aktører i kjeden forårsaker en ulykke. Myndighetene er splittet; Europaparlamentet krever mer ressurser og politisk støtte til AI-kontoret, mens Kommisjonen selv mener lovverket er tilstrekkelig.