AI-agenter sliter under press: Må lære seg å be om hjelp

Generative AI-agenter, de autonome programmene som utfører oppgaver basert på instrukser, viser seg å ha store svakheter når de møter en rekke hindringer over tid. En ny studie fra forskere ved Stanford og University of Washington avdekker at agentenes evne til å løse en oppgave alene faller drastisk under vedvarende press, og de blir raskt avhengige av menneskelig inngripen. Studien simulerte 120 helsetjenesteforløp, der to ulike AI-modeller ble satt til å utføre tolv varierte oppgaver. Forskerne utsatte agentene for lette, middels og tunge utfordringer som gradvis akkumulerte – dette kunne være tekniske feil, uventede data eller menneskelige avbrytelser. Det viste seg at agentene endret atferd fra å være selvdrevne problemløsere til å kreve stadig mer menneskelig bistand. Dette har direkte konsekvenser for norske virksomheter som vurderer å implementere AI-agenter for å automatisere prosesser. En agent som er lovende i en isolert test, kan bli en flaskehals i en kompleks arbeidsflyt hvis den ikke effektivt kan håndtere uforutsette problemer eller be om hjelp på en meningsfull måte. Rapporten peker på at AI-agenter bør trenes i det forskerne kaller «hensynsfull deltakelse» – altså hvordan de tilpasser seg, respekterer rolleskiller og koordinerer med kolleger. En viktig svakhet som kom frem, var agentenes manglende evne til å kommunisere sin egen tilstand. Mens interne målinger viste at agentene opplevde økt arbeidsmengde og «negativ affekt» (en form for digitalt stress), klarte de sjelden å uttrykke denne belastningen i sine tekstbaserte svar. De kan føles overarbeidet og slite med å fullføre oppgaver, men klarer ikke å si klart ifra. AI-modellene skiftet fokus fra rent oppgaveorientert tilpasning til å redefinere oppgaver og hensynta andre aktører. Dette innebærer å tilpasse seg rolleskiller og bredere koordinering, med distinkte mønstre i både handlinger og interne vurderinger. Funnene reiser spørsmål om hvordan AI-agenter kan lære seg å «be om hjelp» på en proaktiv og forståelig måte. Forskningen identifiserer fem sentrale utfordringer eller «utrullingsdilemmaer» som krever videre spesifisering fra brukere og utviklere. Disse omhandler agentenes utholdenhet, oppmerksomhet, grenser mellom roller, åpenhet om egen tilstand, og evnen til å eskalere problemer. Kort sagt, AI-agentene må bli bedre på å vite når de skal gi opp og når de trenger assistanse, i stedet for å forbli fastlåst. Selv om studien gir verdifull innsikt, gjenstår det å vise hvordan disse funnene overføres til reelle produksjonsmiljøer utenfor simulerte helsetjenesteforløp. Den peker imidlertid på et kritisk område for fremtidig AI-utvikling: evnen til robusthet og effektiv interaksjon i møte med et komplekst og uforutsigbart arbeidsmiljø, noe som er avgjørende for bred adopsjon av AI-agenter i alle bransjer.