Forskning4. august 2026
LLM-agenter forsterker egne feil via "Echo Gap"
Av redaksjonen
Selvforbedrende LLM-agenter kan forsterke feil over tid ved å stole blindt på egenvurdering, en svakhet som nå har fått navnet «Echo Gap».
Nye studier viser at selvforbedrende (large language model-agenter), som lærer av erfaring, kan forverre egne feil over tid. Dette skjer når agenter lagrer tidligere handlinger i et eksternt minne og gir dem poeng, som deretter brukes til å forme fremtidig oppførsel.
Problemet, kalt «Echo Gap», oppstår fordi agentene i praksis ikke har tilgang til fasiten. De må derfor stole på sin egen vurdering, som ofte er feilaktig. Dette fører til at feilaktige episoder får oppblåste poeng, og agenten velger deretter å gjenbruke nettopp de feilene den er mest overbevist om er riktige.
Feilen forsterkes i minnet istedenfor å jevnes ut. Selv når agenten forsøker å validere sine egne svar, er vurderingen korrelert med den opprinnelige feilvurderingen. Forskere understreker at en pålitelig korreksjon krever et uavhengig signal som sporer sannheten og der feilen ikke er knyttet til agentens opprinnelige vurdering, et konsept kalt «Error-Independence Assumption» (EIA).
En ny av-inflasjonsalgoritme, LUCID, demonstrerer betydelig forbedring på BIRD , og øker treffsikkerheten til 56,9 prosent. Dette er over både agenter som selv vurderer sine svar og de som mangler minnefunksjon.