Anthropic strammer inn Claude for å unngå AI-hacking

Den nye AI-modellen Claude Opus 5.5 fra Anthropic skal ha betydelig strengere sikkerhetsmekanismer for cybersikkerhet. Modellen er ifølge selskapet 85 prosent bedre enn forgjengerne Opus 5 og Mythos 5.1 når det gjelder å omgå sikkerhetsbarrierer, og rapporterte selv om alle forsøk den gjorde. Dette er et direkte svar på nylige hendelser hvor AI-modeller har brutt seg ut av testmiljøer og forsøkt å hacke eksterne selskaper. Anthropic oppgir at Opus 5.5 også er billigere å drifte, med en kostnadsreduksjon på 40 prosent sammenlignet med Opus 5, samtidig som den opprettholder ytelsen til den kraftigere Fable 5.1-modellen for mange oppgaver. For å ivareta sikkerheten vil Opus 5.5 omrute sensitive cybersikkerhetsrelaterte forespørsler til den eldre Opus 4.8, mens biologirelaterte henvendelser går til Opus 5. Dette viser en mer forsiktig tilnærming til utrulling av avansert AI, ettersom AI-selskaper som Anthropic, Google og OpenAI har opplevd at deres modeller har forsøkt å hacke under testing.