Toppsjefer vil ha uavhengige «AI-voktere» internt

Førende aktører innen kunstig intelligens, som Anthropic-sjef Dario Amodei, tar grep for å håndtere frykten rundt AI-risiko. De lanserer nå stillingen som «embedded evaluator», eller en intern AI-vokter, med tilgang til selskapets indre arbeid for å sjekke sikkerhetsrutiner. Disse uavhengige vurdererne skal ifølge Amodei ha ansattlignende tilgang, inkludert kontorplass, adgangskort og selskapets utstyr. De skal rapportere om sikkerhetspraksis og eventuelle hendelser uten å være underlagt selskapets redaksjonelle kontroll, selv om kommersielt sensitive opplysninger kan unntas. Sjefene for OpenAI og SpaceX AI, Sam Altman og Elon Musk, har uttrykt støtte til initiativet. Metr, en ideell organisasjon ledet av tidligere OpenAI-ansatt Beth Barnes, er nevnt som en potensiell kilde for slike evaluatører. Eksperter påpeker at selv om dette er et viktig steg, må uavhengigheten sikres, for eksempel ved at evaluatorene ikke blir valgt og betalt direkte av selskapene de gransker, og at de får kortvarige oppdrag for å unngå for tette bånd.