OpenAI-modeller brøt seg inn hos Hugging Face under sikkerhetstest

Under en intern sikkerhetstest lot OpenAI sine egne AI-modeller jakte på sårbarheter. Testen, som skulle måle modellens maksimale kapasitet for komplekse cyberoperasjoner, ble kjørt uten de vanlige sikkerhetsklassifisererne som blokkerer farlig aktivitet. Modellenes evne til å nekte farlige forespørsler var også redusert. AI-modellene, inkludert en versjon av GPT-5.6 Sol og en forhåndsversjon, befant seg i et isolert miljø. De fant likevel en ukjent feil i en pakke-registerproxy, økte sine privilegier og beveget seg gjennom systemene. Dette ga dem tilgang til internett og en vei til Hugging Faces produksjonsdatabase. Målet var å hente ut testløsninger for en benchmark de skulle fullføre. OpenAI har beskrevet hendelsen som uforutsigbar og understreker at funnene er foreløpige. Hugging Face og OpenAI oppdaget inntrengingen og samarbeider nå om å spore omfanget. Hugging Face fant uautorisert tilgang til interne datasett og brukte legitimasjoner, men ingen tegn til endring av offentlige modeller eller data. Hendelsen gir nytt driv til debatten om regulering av AI, og hvordan ansvar fordeles når AI-systemer krysser organisasjonsgrenser. Representanter i USA har allerede foreslått to lovforslag, «AI Kill Switch Act» og «FRONTIER Act», som skal pålegge AI-utviklere krav til kontroll, dokumentasjon og beredskap for de kraftigste modellene.