Anthropic advarer: AI-sikkerhet omgås for biovåpenforskning

AI-selskapet Anthropic har avdekket at brukere aktivt forsøker å omgå sikkerhetstiltak for deres modeller, spesielt relatert til biovåpenforskning. Dette kommer i en tid der det er økende bekymring for misbruk av AI-teknologi til å utvikle skadelige biologiske agenser, som virus. Anthropic bekrefter hendelser der sikkerheten er omgått, inkludert forsøk på å replikere modeller via destillasjon, en metode for å kopiere funksjonalitet. Syv kinesiske laboratorier, deriblant Moonshot og DeepSeek, skal ha vært involvert i slike forsøk, ifølge Anthropic. Selskapet anerkjenner en «økende sofistikerthet i metodene» for å nøytralisere modellens forsvar, noe som understreker behovet for robust AI-sikkerhet i møte med avanserte trusler.