NVIDIA lærer AI-agenter å rette opp feil i 73 prosent av tilfellene

NVIDIA, i samarbeid med Princeton og University of Maryland, har utviklet en ny treningsmetode kalt PivotOPD. Målet er å lære AI-agenter å rette opp store feil som oppstår tidlig i komplekse oppgaver, fremfor å fortsette på feil spor til de mislykkes. En «pivotal mistake» er en handling som enten forlenger korteste vei til målet eller gjør oppgaven uløselig. Ifølge forskningen er over halvparten av feilslåtte forsøk fra slike agenter forårsaket av én slik feil i starten, ofte etter bare 8-12 steg. Standard treningsmetoder har vært dårlige på å takle dette, men PivotOPD gjenoppretter agentsystemer i hele 72,7 prosent av de feilene den har gjenkjent, sammenlignet med 20,3 prosent for en standard metode. Metoden fungerer ved å legge til tre komponenter: en feildetektor (pivot detection), forebyggende korrigering (preventive distillation) og en gjenopprettingsmekanisme (recovery distillation). Den lar en større læringsmodell identifisere kritiske feil og instruere agenten om å både unngå dem og å handle korrekt for å rette opp skaden hvis feilen likevel oppstår. Dette betyr at norske bedrifter som bruker eller utvikler AI-agenter, for eksempel til automatisering av kundeservice eller komplekse dataanalyser, kan få mer robuste systemer. Agentene vil i større grad klare å fullføre oppgaver uten menneskelig inngripen, selv når uforutsette hendelser oppstår. Metoden øker kun treningskostnaden marginalt, med en overhead på 12,4 prosent på ALFWorld-oppgaver, men har ingen merkostnad når agenten er ferdig trent og er i bruk (inferens).