Anthropic og Accenture satser 2 milliarder dollar på AI-sikkerhet

Anthropic, kjent for sin modell Claude, og konsulentselskapet Accenture vil investere to milliarder dollar i evaluering av AI-modeller. Dette skjer i en tid med økende bekymring for sikkerheten ved kunstig intelligens. Satsingen skal bidra til å forbedre testingen av AI-systemer. Målet er å sikre at modeller som Claude og andre store språkmodeller fungerer som forventet og ikke utgjør uforutsette risikoer før de tas i bruk i stor skala. For norske virksomheter som vurderer eller allerede bruker AI, betyr dette initiativet at det utvikles bedre metoder for å vurdere risiko. Økt innsikt i modellens atferd og begrensninger kan gjøre det enklere å ta ansvarlige beslutninger rundt implementering av AI i arbeidsprosesser.