Ny metode forbedrer usikkerhetsvurdering i AI-agenter

Etter hvert som AI-modeller som GPT blir mer utbredt, er det viktig å vite når de er usikre på svarene sine. Nå har forskere introdusert SAUCE (Sequential Agent Uncertainty through Consensus Evolution), en metode som forbedrer AI-systemers evne til å vurdere sin egen usikkerhet – altså hvor pålitelig et svar fra AI-en er. SAUCE fungerer som en lettvektig, treningsfri usikkerhetsestimator, noe som betyr at den ikke krever omfattende datatrening og kan gi mer nøyaktige resultater. Den er spesielt utviklet for systemer hvor flere AI-agenter jobber sammen om et problem, og forbedrer evnen til å oppdage feilklassifiseringer og kalibrering over fem ulike AI-arkitekturer og to typer multi-agent-protokoller.