EU forsvarer AI-loven mot «rømløps-AI» med strengere krav

EU-kommisjonen forsvarer nå sin AI-lov som et sentralt vern mot risikoen fra stadig mer autonome AI-systemer. De mener lovverket, som ble vedtatt i 2024, allerede er godt rustet til å håndtere uforutsigbar AI, også kalt «rømløps-AI» – altså systemer som produserer skadelige eller utilsiktede resultater. AI-loven innfører en risikobasert tilnærming som skiller mellom forbudte, høyrisiko- og mer transparente AI-systemer. Utviklere av generelle AI-modeller med systemisk risiko får strengere krav, som inkluderer evaluering, risikoredusering og rapportering av alvorlige hendelser. Fra august 2026 kan Det europeiske AI-kontoret håndheve disse kravene, med mulighet for økonomiske sanksjoner ved brudd. Reguleringene krever at teknologiselskaper som opererer i EU-markedet demonstrerer etterlevelse. For norske arbeidsplasser som utvikler eller tar i bruk avansert AI, kan dette bety økt dokumentasjonsarbeid og grundigere testing, spesielt for systemer som kan operere uten konstant menneskelig tilsyn. Dette utfordrer samtidig regulatorer til å sikre tilsyn uten å bremse innovasjon.