Sikkerhet4. august 2026
Sårbarhet i AI-finjustering kan lekke brukerdata
Av redaksjonen
Ny forskning viser hvordan sensitiv brukerdata kan hentes ut fra AI-modeller som er finjustert med LoRA, en mye brukt metode for effektiv tilpasning av store modeller.
Forskere har avdekket en kritisk sårbarhet i føderert finjustering av AI-modeller, der en ondsinnet server kan hente ut private brukerdata. Dette skjer gjennom en gradientinversjons-angrepsteknikk, kalt MineGrad, som utnytter (Low-Rank Adaptation) – en metode for å finjustere store modeller uten å trene opp alle modellens parametre.
Angrepet fungerer ved at serveren, som distribuerer en forhåndstrent modell til brukere, mottar , altså små justeringer av modellens vektverdier, fra lokale finjusteringer. Ved å infisere den opprinnelige modellen og parametrene under finjustering, kan serveren analytisk rekonstruere brukerdata som er innebygd i disse gradientene. Dette skiller seg fra tidligere angrep som ofte krever ressurskrevende forhåndstrening eller spesifikke databegrensninger.
Funnet er viktig fordi LoRA brukes bredt i for å redusere datamengden som sendes mellom brukere og server. Sårbarheten berører både språkmodeller og visuelle modeller, og tester viser høy nøyaktighet i gjenopprettingen av data, noe som avdekker betydelige sikkerhetshull. Det understreker behovet for bedre sikkerhetsmekanismer i distribuerte AI-systemer.