Større språkmodeller forsterker feil raskere

En nylig studie utført av forskere fra Google AI, publisert på arXiv, viser at språkmodeller, til tross for økt kapasitet ved oppskalering, paradoksalt nok kan oppvise en forverring i pålitelighet over tid. Studien, med tittelen «Reliability Scales Inversely: Bigger Language Models Compound Mistakes Faster», avslører at modeller som er blitt større, tenderer til å starte med korrekte svar, men forringes raskere i nøyaktighet etter hvert som de genererer lengre tekst. Dette skyldes en autoregressiv risiko, hvor modellen bygger videre på en lavsannsynlig token og betrakter den som et etablert faktum, noe som fører til en "snøballeffekt" av feil. Forskere sporet dette fenomenet ved å sammenligne modellens prestasjoner med en sterkere orakelmodell. De fant at mens "kunnskapshullet" (mangel på informasjon) reduseres betydelig ved oppskalering, øker "kunnskapsnedbrytningen" (akselerert feilproduksjon) dramatisk. Videre viste studien at modeller ofte viser høy selvtillit under feil, med intern usikkerhet som avtar raskt, selv om den underliggende risikoen forblir høy. Dette skaper et selvsikkert, men ustabilt risikoregime som modelleksternt er vanskelig å detektere. Funnene antyder at de interne mekanismene for selvkontroll i dagens språkmodeller ikke er tilstrekkelige for å identifisere eller korrigere disse feilene. Dette har implikasjoner for utvikling av fremtidige modeller, da det peker på behovet for mer robuste strategier for feilreduksjon utover ren skalering, spesielt i applikasjoner som krever høy presisjon.