Ny metode fanger AI-hallusinasjoner i språkmodeller

Forskere har utviklet en metode for å avdekke hallusinasjoner i store språkmodeller (LLM-er) ved å analysere hvordan informasjonen flyter internt. De finner at hallusinerende svar er preget av informasjonsflaskehalser og en overdreven avhengighet av self-attention i modellens siste lag. Tilnærmingen gir konsekvent bedre resultater enn eksisterende metoder i tester, og lover sikrere bruk av AI ved å identifisere når modeller “gjetter” fremfor å hente fakta.