GUARD avdekker dårlig grunnlag i AI-handling
Av AIWatch
En ny metode, GUARD, forbedrer avdekking av feil i AI-modeller med 5,73 prosentpoeng, og viser hvorfor mange AI-handlinger er dårlig forankret i data.
Forskere har utviklet GUARD, en metode for å identifisere når handlingsorienterte AI-modeller, kalt VLA (), genererer plausible utfall som likevel mangler reell forankring i data. GUARD analyserer modellens indre mekanismer for å forstå hvordan den kobler synsinntrykk og språk til handling, uten å måtte endre selve modellen. GUARD oppnår en gjennomsnittlig forbedring på 5,73 prosentpoeng i å avdekke feil på tvers av ukjente oppgaver, sammenlignet med de beste eksisterende systemene. Dette indikerer at dårlig forankring i multimodal bevisføring er en kritisk svakhet som påvirker ulike AI-systemer, oppgaver og domener.
Kilder til denne saken: arXiv cs.AI ↗
AI: Research, språk og faktasjekk.
Relatert
