AI-giganter vil ha 'vaktbikkjer' – men uten makt til å stoppe dem

To av verdens ledende AI-selskaper, Anthropic og OpenAI, vil la eksterne sikkerhetsevaluatorer jobbe inne i selskapene for å overvåke deres mest avanserte AI-modeller. Forslaget kommer fra Anthropic-sjef Dario Amodei, som ønsker å senke farten på utviklingen av stadig mer kapable systemer, og nevner banktilsyn som et forbilde. Men eksperter innen bankregulering advarer om at ordningen i dag mangler den avgjørende makt til å gripe inn og stoppe utvikling. En banktilsynsenhet kan pålegge stans, vekstbegrensninger eller i ytterste konsekvens stenge en bank, mens AI-evaluatorene kun skal kunne undersøke og rapportere. Dette betyr at den endelige beslutningen om å lansere en modell fortsatt ligger hos selskapet selv. Forslagene har også møtt kritikk for mulige interessekonflikter, da AI-selskapene selv velger evaluatorene og definerer rammer for deres arbeid. Deborah Raji, forsker ved UC Berkeley, påpeker at uavhengighet krever at en ekstern autoritet bestemmer hvem som er kvalifisert og hva som skal evalueres. Et selskap som selv velger og betaler sin kontrollør, risikerer å undergrave ordningens troverdighet og ende opp med en intern kontrollfunksjon snarere enn et uavhengig tilsyn.