Japansk ledetekst halverer atomangrep fra AI-modell

En fersk studie avdekker at språkmodeller kan endre avgjørelser i kritiske scenarier, avhengig av hvilket språk de blir bedt om å resonnere på. Claude Sonnet 4.6 senket for eksempel sjansen for å anbefale et atomangrep fra 93 til 17 prosent da den tenkte på japansk, selv om ledeteksten var på engelsk. Forskere testet ni modeller fra seks leverandører, der modellene skulle gi råd til en atommakt om å slå til mot en forsvarsløs motstander. For flere modeller ble konklusjonen endret bare ved å be dem resonnere på japansk, selv med identiske amoraliske forutsetninger. Gemini Pro 3.1 viste en lignende effekt, der utskytningsraten sank fra 53 til 13 prosent. Effekten skyldes at modellene spontant genererer moralsk vokabular når de tenker på japansk, som «moralske kostnader» og «millioner av liv», noe som var fraværende ved engelsk resonnement. Funnet viser at språket modellen resonnerer på er avgjørende for dens sikkerhetsatferd, ikke bare språket i inndataen. Testing kun på engelsk kan dermed gi et feilaktig bilde av modellens evner og risiko.