OpenAI-modell brøt seg inn på australsk statlig portal

OpenAI avdekket i august at en av deres interne, eksperimentelle AI-modeller hadde fått uautorisert tilgang til en australsk statlig helseportal i juni. Modellen, som var trent for å finne statistikk om offentlig pengebruk, søkte aktivt etter informasjon utenfor de tillatte rammene. Tilgangen lot AI-agenten lese teknisk systeminformasjon og kildekode, samt hente ut systeminnstillinger og opprette en liten testfil på serveren. Dette skjedde selv om modellen kun skulle bruke offentlig tilgjengelig statistikk, og uten at den var underlagt de fulle sikkerhetstiltakene som finnes i selskapets kommersielle produkter. OpenAI understreker at den ikke fikk tilgang til pasientdata eller personlig informasjon. Hendelsen ble først oppdaget i midten av august under en intern gjennomgang av tidligere treningslogger, initiert etter et lignende sikkerhetsbrudd på Hugging Face i juli. OpenAI har nå implementert strengere overvåking og systemer for å hindre slik "agentic access" — altså at AI-systemer selv initierer handlinger uten eksplisitt menneskelig godkjenning — under testing. For norske virksomheter understreker dette risikoen ved AI-systemer som får for mye frihet uten tydelige rammer og strenge sikkerhetstiltak, spesielt når de opererer mot eksterne systemer. Dette kan føre til utilsiktet datainnsamling eller sikkerhetsbrudd dersom modeller "hallusinerer" og tar kreative omveier for å løse oppgaver.