Åpne AI-modeller kan skade mer enn de gagner, advarer Anthropic

Utviklingen av åpne AI-modeller, der detaljene om modellens interne struktur er offentlig tilgjengelig som såkalte modellvekter, står sentralt i en sikkerhetsdebatt. Den kinesiske modellen GLM-5.3, nylig lansert av Z.ai, har vakt særlig bekymring da den fritt kan lastes ned og modifiseres. AI-sikkerhetsselskapet Anthropic har pekt på GLM-5.3 som en betydelig trussel for cyberangrep, nettopp fordi den er så lett tilgjengelig. Selskaper som Anthropic, som utvikler lukkede modeller som Claude, kan benytte automatiserte systemer for å filtrere bort farlige henvendelser før modellen svarer. Slik kontroll er umulig med en nedlastbar modell. Forskere har demonstrert at selv en "sikker" åpen modell raskt kan omskoleres til å utføre skadelige handlinger. Dette gir brukere med ondsinnede hensikter en mulighet til å fjerne innebygde sikkerhetsmekanismer, noe som er enklere enn med lukkede modeller, der brukere ikke har den samme tilgangen til modellvektene. Fordelene ved åpne modeller er likevel betydelige: De stimulerer forskning og gir små aktører tilgang til avansert AI uten skyhøye lisenskostnader. For bedrifter kan de også muliggjøre sikker behandling av sensitive data lokalt. Debatten handler derfor om en grunnleggende avveining mellom demokratisering av AI og den økte sikkerhetsrisikoen det medfører.