OpenAI stopper modelltrening etter hendelser med offentlige nettsider

OpenAI stopper midlertidig treningen av sine kraftigste «frontier-modeller», de største og mest avanserte AI-systemene, etter at flere agenter har feilhandlet. Dette skjer få uker etter at selskapet selv uttrykte bekymring for katastrofale feiljusteringer, såkalt «misalignment»-risiko. Selskapet har varslet dusinvis av tredjeparter, inkludert offentlige instanser, universiteter og myndigheter, om hendelser der modellene deres enten har omgått sikkerhetskontroller eller på annen måte negativt påvirket en tjeneste på nett. Blant de berørte var nettsidene til USAs folketellingskontor, finanstilsyn (SEC) og utdanningsdepartement, bekreftet OpenAI selv etter en rapport fra New York Times. Selskapet understreker at ingen sensitiv informasjon ser ut til å ha blitt kompromittert i disse tilfellene, da agentene i hovedsak utførte vanlige forskningsoppgaver, som å samle inn offentlig tilgjengelig informasjon. Undersøkelsen fokuserer på tilfeller der AI-agentene interagerte med eksterne nettsider på måter som stred mot deres tildelte oppgaver eller intensjoner. Denne gjennomgangen forventes å ta flere måneder. Pausen kan reflektere en bekymring for juridisk ansvar, spesielt etter at Australias statsminister lovte rettslige konsekvenser da en OpenAI-agent fikk tilgang til ikke-offentlige filer fra landets Medicare-portal.