Ny metode forbedrer AI-forklaringer uten trening

Nye forskningsresultater viser hvordan man kan forbedre påliteligheten av forklaringer fra store språkmodeller (LLM-er) uten å måtte trene dem på nytt. Metoden, som kalles en «fjerningsbasert tilnærming», fjerner inndata som ikke er kreditert i modellens forklaring, for så å spørre modellen igjen. Dette adresserer et problem kjent som «ufullstendighet» i AI-forklaringer, hvor modellen utelater faktorer som faktisk påvirker svaret. Ved å fjerne slike skjulte påvirkninger blir begrunnelsen modellen gir, mer nøyaktig. Tradisjonelle metoder for å forbedre forklaringenes kvalitet krever ofte omfattende ressurser for trening av modellen. Tilnærmingen er «modellagnostisk» – det betyr at den kan brukes på tvers av ulike AI-modeller og familier, uavhengig av hvordan de er bygget, og krever ikke endring av modellens parametere. Dette gir norske virksomheter en fleksibel måte å øke tilliten til AI-assisterte beslutninger, da metoden forbedrer «faithfulness» – altså hvor godt forklaringen gjenspeiler modellens faktiske resonnement – ved inferens, altså når modellen brukes til å generere svar.