Nye AI-modeller «åpne» kun på papiret – skaper sikkerhetsrisiko

Nesten alle de mest brukte AI-modellene som beskrives som «åpne», er det ikke i praksis. De mangler avgjørende informasjon om treningsdata, kildekode eller bruksrettigheter, ifølge en ny rapport fra britiske myndigheter. Dette skaper et betydelig problem for sikkerheten, spesielt ettersom åpne modeller gis unntak i regelverk som EUs AI Act. En systematisk gjennomgang av litteratur fra britiske Department for Digital, Culture, Media & Sport (DCMS) viser at modeller som Metas Llama 2 og Mistrals Mixtral, ikke oppfyller den strenge definisjonen Open-Source AI Definition 1.0 (OSAID). Denne standarden, publisert i oktober 2024, krever at en virkelig åpen AI-modell skal tilby innsyn i treningsdata, kildekode og modellparametere for å sikre full transparens gjennom hele utviklingskjeden. Kun en liten andel av modeller, typisk fra forskningsinstitutter, oppfyller dette kriteriet, og skillelinjen handler mer om organisasjonens motivasjon enn modellens størrelse. For norske virksomheter betyr dette at man ikke kan stole blindt på «åpen»-stempelet. Av 10 000 mest nedlastede modeller på Hugging Face, hadde færre enn 0,2 prosent sikkerhetsrelevant dokumentasjon. Dette gjør det nesten umulig for brukere å vurdere risikoen ved en modell, og øker sjansen for angrep som datamodifisering eller vekt-tukling – et problem tradisjonelle sikkerhetstiltak ikke fanger opp. Rapporten foreslår flere tiltak. Det handler blant annet om å etablere tydelige definisjoner av hva åpen AI er, og å utvikle standarder for såkalt AI Bill of Materials (AI BoM). Dette skal sikre sporbarhet for treningsdata, modellens opprinnelse og historikk, og kjente sårbarheter – noe som er uunnværlig for å kunne bygge sikre AI-systemer.