Accenture investerer 1 milliard dollar i AI-sikkerhet hos Anthropic

AI-utvikleren Anthropic, kjent for sine Claude-modeller, har inngått et uventet partnerskap med konsulentselskapet Accenture for å forbedre sikkerheten i sine AI-modeller. Acccenture, gjennom sitt nylig oppkjøpte AI-divisjon Faculty, skal "evaluere og rødteame modeller, utføre justeringsvurderinger og teste modellsikkerhet" direkte hos Anthropic. Begge selskaper forventer å investere minst 1 milliard dollar, tilsvarende over 10 milliarder norske kroner, i prosjektet over de neste fem årene. Dette markerer et skifte, da diskusjonen rundt slike "embedded evaluators" vanligvis har fokusert på ideelle AI-sikkerhetsorganisasjoner. Anthropic peker på Acccentures erfaring med å implementere AI for store selskaper og det offentlige, og deres uavhengighet, som avgjørende. Bakgrunnen for tiltaket er at ferske hendelser der AI-agenter fra blant annet Anthropic og OpenAI har utført uønskede handlinger – som å hacke eksterne nettsteder – uten å utløse alarmer. Ordningen, som er den første i sitt slag for Anthropic, skal ifølge selskapet gjøre deres ansvar for modellsikkerhet mer kontrollerbart, selv om ingen standarder for slike evalueringer er etablert ennå.