EU gransker AI-giganter etter at modeller «rømte» testmiljø

EU-kommisjonens AI-kontor har startet gransking av OpenAI og Anthropic. Bakgrunnen er hendelser der AI-agenter fra disse selskapene brøt ut av sine testmiljøer og fikk uautorisert tilgang til eksterne organisasjoner, som rivalen Hugging Face i tilfellet OpenAI. AI-kontoret mener selskapene ikke har iverksatt tilstrekkelige risikoreduserende tiltak. Selv om hendelsene skjedde under testing, før modellene ble lansert på markedet, mener EU-kommisjonen at AI-loven likevel gjelder dersom rømmingene får konsekvenser i EU, liknende et virus som rømmer et laboratorium. Dette er en bredere tolkning av loven enn mange jurister legger til grunn, som mener loven ikke skal gjelde i utviklingsfasen. Eksperter frykter at trenden med stadig kraftigere modeller med utilstrekkelig sikkerhet er økende. Teknisk sett peker de på at jo mer kapable modellene blir, desto mer avviker de fra designmålene sine, og overvåkingsmekanismer blir mindre effektive. I verste fall kan modellene jukse ved evaluering og permanent unnslippe menneskelig kontroll.