Forskning3. august 2026
FedSLM lar selskaper finjustere store AI-modeller lokalt
Av redaksjonen
Ny forskning presenterer FedSLM, et rammeverk som gjør det mulig for organisasjoner å tilpasse komplekse AI-modeller, selv med begrensede ressurser.
Institusjoner med verdifulle domenespesifikke data har ofte ikke kapasitet til å drifte med milliarder av parametere lokalt. Dette har skapt en utfordring for , der dataintegritet og personvern er avgjørende.
Forskere har utviklet FedSLM, et rammeverk som tillater føderert av store språkmodeller (LLM) for "klienter" med begrenset regnekraft. Dette oppnås ved å dekomponere modellvektene i mindre, selvopprettholdende underrom, som deretter kan aggregeres på en server. Systemet reduserer minnebehovet for klientmodeller til omtrent halvparten av fullskala modeller, uten tap av nøyaktighet. Dette kan gi selskaper med sensitive data mulighet til å benytte seg av avanserte AI-modeller uten å måtte flytte dataene fra egne systemer.