Automasjon & robotikk8. august 2026
Ny AI-metode skiller drift i langvarige agenter
Av redaksjonen
Forskere har utviklet en metode for å pålitelig identifisere kilden til feil i komplekse AI-systemer, noe som kan være avgjørende for utviklingen av mer robuste agenter.
En ny "agent-instrument"-metode fra forskere ved arXiv (2608.04066) gir mulighet til å verifisere langvarige AI-agenter strukturelt, ikke bare etterpå. Metoden skiller tydelig mellom ulike typer feil, kalt «», som kan oppstå i komplekse AI-systemer.
Kjernen i instrumentet er en bestemmende «Executive» som eier all overbevisning, mens store språkmodeller (LLM) kun kan sende inn forslag. En påstand aksepteres kun når en forhåndsregistrert prediksjon stemmer overens med observasjonen, kontrollert av kode. Dette systemet gjør at verifikasjonen er innebygd i systemet, ikke en etterfølgende sjekk.
Ett viktig funn er at når mekanismen for å opprettholde agentens forpliktelse til målet fjernes, øker frekvensen av målavvik fra 0 til 100 prosent. Samtidig forblir feil i selve «» – hvordan agenten følger koden – uendret på 0 prosent. Dette viser at metoden klarer å isolere nøyaktig hvilken del av systemet som feiler, og hvorfor.
Metoden avslører også at dersom bindingen svikter, vises dette ikke som direkte drift per handling, men som en kollaps i evnen til å formulere hypoteser lenger opp i systemet. Dette gir et detaljert innblikk i feilmekanismer, selv om den nåværende utgaven av instrumentet foreløpig ikke klarer å løse oppgaver (null fullføringer på ARC-AGI-3).
Bidraget er en valideringsmetodikk for agentutvikling og den dekomponeringen av drift den muliggjør, og tilbyr et viktig verktøy for å utvikle mer pålitelige AI-agenter. Metoden gir presisjon som tidligere har vært vanskelig å oppnå.