LLM-er holder fast på feil – selv med selvkritikk

Nye funn avdekker at store språkmodeller (LLM-er) ofte er feilkalibrerte, det vil si at de er trygge på feil svar som vedvarer, selv under små forstyrrelser. Forskere kaller dette «stabil feilkalibrering» og utfordrer ideen om at feil med høy sikkerhet alltid skyldes svakheter i modellens interne resonnement. Studien målte modellens selvsikkerhet og følsomhet i dens indre tilstander. Selv om prompter som oppfordret til selvkritikk reduserte den interne følsomheten og ga færre feil med høy sikkerhet, forsvant ikke den stabile feilkalibreringen helt. Dette betyr at LLM-er kan være vedvarende feilkalibrerte, et kritisk punkt for tilliten til AI-systemers nøyaktighet.