AI i helsevesenet krever grundig testing i pasientsituasjoner

Tillit til kunstig intelligens i klinisk medisin må bygges gjennom strenge, prospektive studier – altså forskning som følger fremtidige utfall – utført i faktiske pasientmiljøer. Dette budskapet kommer fra forskere tilknyttet Google Research, Stanford og Harvard i tidsskriftet Nature Medicine. Studien fremhever at de vanskeligste utfordringene ofte handler om menneskene og systemene rundt AI-en, ikke selve teknologien. Mange AI-modeller presterer godt i kontrollerte laboratorietester, men kan feile når de møter kompleksiteten i en travel klinisk hverdag. Dette er kritisk for norske helseforetak som vurderer å ta i bruk AI-verktøy, da implementeringen krever mer enn bare teknisk integrasjon. For at medisinske AI-systemer skal bli pålitelige og trygge, kreves det en annen tilnærming til validering enn tradisjonelle benchmarks, som ofte kun måler teknisk ytelse. Forskere argumenterer for at data fra virkelige pasientmøter er uunnværlige, og at dette beviset er «ikke-forhandlingsbart» før bred utrulling.