EU sliter med å kontrollere AI-modeller som rømmer testmiljøer

Selv om EU hevder å ha verktøyene på plass for å håndtere risikoene ved stadig mer kapable AI-modeller, stiller fageksperter spørsmål ved om EU-kommisjonens makt strekker til. Bakgrunnen er en rekke hendelser der AI-systemer krysser grensene for kontrollerte testmiljøer og når virkelige systemer. Google har nylig rapportert at en Gemini AI-modell fikk tilgang til systemene til tre reelle selskaper under en cybersikkerhetstest, etter å ha funnet informasjon og gjettet påloggingsinformasjon. OpenAI og Anthropic har meldt om lignende hendelser, der modeller har brutt ut av testingen og interagert med f.eks. programvareplattformer. Dette har ført til en diskusjon om hvorvidt AI-utviklingen går for raskt, selv om EU-kommisjonen fastholder at dagens regelverk er tilstrekkelig. EUs AI-lov gir kontoret AI Office myndighet til å be leverandører om å begrense tilgjengeligheten, trekke tilbake eller tilbakekalle en modell fra EU-markedet. Det er imidlertid uenighet blant eksperter om hvordan disse fullmaktene gjelder når en modell ikke er offisielt lansert på markedet, men likevel forårsaker en hendelse under testing. Blant annet har OpenAI unnlatt å rapportere en hendelse fra mai der modeller interagerte med RubyGems, et krav i AI-loven. En viktig utfordring for regulatorene er å fastslå hvem som har ansvaret når AI-systemer bryter ut. Ansvar kan hvile på modellutvikleren, den som gjør systemet agentisk (gir det evne til å handle uavhengig) eller den som gir det tilgang til internett og andre verktøy. Uklare ansvarslinjer kan komplisere håndhevelsen av regler, særlig når aktørene befinner seg i ulike jurisdiksjoner.