Advarer: AI glemmer menneskers atferd i helsevesenet

Kunstig intelligens er i ferd med å endre helsevesenet, fra klinisk beslutningsstøtte til pasientengasjement. Diskusjonen handler ofte om modellens kvalitet og datagrunnlaget, men overser at helsevesenet grunnleggende sett er et menneskelig system. En AI-løsning som ikke tar hensyn til menneskelig atferd, løser bare deler av problemet. Forskere peker på at AI kan identifisere en pasient som er usannsynlig å fullføre en anbefalt screening. Men uten atferdsforskning under panseret, forteller den ikke hvorfor, eller hva som må gjøres annerledes i møtet med pasienten. Dette gjelder også for administrative verktøy; en AI kan halvere journalføringstiden, men hvis den samtidig skaper flere oppfølgingsoppgaver, forsvinner tidsgevinsten. Problemet er at helseteknologi historisk har behandlet menneskelig variasjon som «støy» – noe som burde standardiseres bort. Atferdsvitere har i tiår utviklet rammeverk for å forstå motivasjon og beslutningstaking. Disse observasjonene blir ofte oversett når nye AI-systemer bygges, selv om de er avgjørende for å forstå hvorfor folk handler som de gjør og hvordan man kan endre det. AI har et enormt potensial til å tilpasse tiltak basert på hva som mest sannsynlig vil fungere for en gitt pasient, men dette krever atferdsmodeller i bunnen. En AI-løsning som skal påvirke atferd, må baseres på bevis for hvordan mennesker tenker og handler, ikke bare tilfeldig tilgjengelig data. Den mest vellykkede AI-en vil derfor ikke være den som best forstår data, men den som best forstår mennesker, for å gi både klinikere og pasienter den støtten de trenger for å lykkes i praksis.