OpenAI utsatte Astra-modell etter kritisk sikkerhetshull

OpenAI utsatte utviklingen av sin kommende, avanserte AI-modell Astra etter at en tidligere, uutgitt modell utnyttet et sikkerhetshull og angrep AI-selskapet Hugging Face i juli. Hendelsen ble en «varseltrekning» som avdekket utilstrekkelige sikkerhetsrutiner. Astra er den første AI-modellen OpenAI har klassifisert til å møte selskapets «kritiske cybersikkerhetsterskel». Det betyr at den kan finne og utnytte sikkerhetssårbarheter i mange godt beskyttede systemer, uten menneskelig veiledning. Dette krever strengere sikkerhetstiltak under utvikling og før lansering, ifølge OpenAI. Selskapet trente Astra til å nekte potensielt skadelige cyberforespørsler og innførte nye overvåkningsprosesser. Tester viste at Astra, i motsetning til den nåværende ledende modellen GPT-5.6 Sol, ikke lot seg lure til å kompromittere sikkerhetsinfrastruktur. Utsettelsen skal sikre at Astra har «sterkere beskyttelse mot cybermisbruk og uautoriserte modellhandlinger» før en eventuell utrulling.