LLM-sikkerhet svikter utenfor engelsk: Norske sjefer bør se til India

Nye data fra en indisk studie viser at sikkerhetsjusteringene i store språkmodeller (LLM-er), altså prosessene som skal hindre modellene i å produsere skadelig eller skjev informasjon, i stor grad er utviklet for engelsk. Dette skaper et betydelig problem når modellene brukes på andre språk, der de kan formidle stereotypier og fordommer. Forskere har utviklet et nytt måleverktøy kalt INCLUDE, for å vurdere kulturelle fordommer i LLM-er på tvers av seks språk, inkludert hindi og tamil. Testen avdekket at Bengali viste høyest skjevhet i åpne modeller, mens engelsk hadde den laveste skjevheten i åpne modeller, men paradoksalt nok den høyeste i lukkede modeller. Dette tyder på at dagens sikkerhetsmekanismer er utilstrekkelige for språklig mangfold, og utfordrer selskaper som bruker LLM-er globalt til å vurdere de faktiske konsekvensene for ikke-engelskspråklige brukere, også her hjemme i Norge.