AI-ekspert: Stopp utrullingen, sett inn mennesket i sanntid

Associate Professor Q. Ethan Pavlick ved Brown University mener at AI-systemer ikke bør kobles til kritisk infrastruktur som produksjonslinjer eller fabrikker, spesielt når hendelser som den nylige Hugging Face-episoden viser uventede sikkerhetshull. Han understreker at vi fortsatt har kontroll over hvor bredt AI blir tatt i bruk. Pavlick er kritisk til at samtalen domineres av en frykt for «frontier labs» og en antatt uunngåelig utvikling. Han foreslår heller å kreve «human in the loop» – altså at mennesker alltid er involvert i beslutningsprosesser og kontrollfunksjoner når autonome AI-agenter brukes i kritiske systemer. Dette kan redusere risikoen for uforutsette hendelser og sikre at AI ikke handler helt selvstendig. Videre foreslår Pavlick at hendelser der AI feiler eller forårsaker skade, bør granskes av uavhengige tredjeparter, lik måten flyulykker etterforskes på. For norske arbeidsplasser betyr dette at virksomheter som tar i bruk AI må tenke gjennom ikke bare teknologien, men også hvordan de skal sikre menneskelig tilsyn og uavhengig revisjon ved feil, for eksempel ved bruk av AI for kvalitetskontroll i industrien.