AI-agenter repeterer informasjonsleting, selv med nok data

Studien GraphEcho avslører at store språkmodeller (LLM-agenter) ofte repeterer søkestier, noe som kan gi en feilaktig følelse av bekreftelse fremfor å samle uavhengige bevis. Dette øker risikoen for at AI-systemer baserer beslutninger på smalt grunnlag, selv om dataene er tilgjengelige. Funnene indikerer at AI-agenter kan lære å unngå gjentagelse, men da på bekostning av å ignorere nødvendig ny informasjon. Dette skaper et dilemma mellom effektivitet og grundighet for utvikling av AI-systemer i arbeidslivet, særlig de som trenger å vurdere komplekse faktiske forhold.