AI-medisinsk utstyr mangler klinisk bevis for trygg bruk

Nye analyser viser at en betydelig andel av AI-basert medisinsk utstyr som godkjennes for bruk, mangler solid klinisk dokumentasjon. En studie av 903 FDA-godkjente AI-medisinske enheter fra 2025 fant at kun 55,9 prosent rapporterte kliniske ytelsesstudier, og av disse var bare 8,1 prosent prospektive. Dette betyr at testingen sjelden involverer fremtidige pasientdata eller randomiserte forsøk, som er gullstandarden for å vise sikkerhet og effekt i helsevesenet. For den vanlige lederen betyr dette at nye AI-verktøy i helsevesenet kan se lovende ut på papiret, men de er ikke alltid testet grundig nok i en virkelig klinisk kontekst. Mangelen på prospektive studier – altså studier som ser fremover og samler nye data i stedet for å analysere historiske – og randomiserte kontrollerte studier er spesielt bekymringsfull. En modell kan fungere utmerket på treningsdata, men feile i en travel sykehusavdeling med ulik pasientpopulasjon eller utstyr. Konsekvensen er at helsepersonell må vurdere AI-ens utfall basert på et mer usikkert grunnlag enn tradisjonelt utstyr. MDx CRO peker på at klinisk evaluering av AI-medisinsk utstyr må omfatte mer enn algoritmevaliditet; den må også vurdere datasettkvalitet, representativitet, skjevhet, robusthet, menneskelig tilsyn og ytelse etter utrulling. EU AI Act stiller eksplisitte krav til datastyring for høyrisiko AI-systemer, inkludert vurdering av datas egnethet og representativitet for å minimere skjevhet. Dette understreker at en grundig dataforvaltning bør integreres tidlig i produktutviklingen, ikke etterslagsbasert. Det handler altså om å definere hva AI-en skal oppnå for pasienten, før man velger hvilke tekniske mål man skal forholde seg til, og til slutt også hvordan mennesket samhandler med AI-ens resultater. Et konkret eksempel er at en AI som viser høy nøyaktighet i å forutsi pasientforverring (høy AUROC), fortsatt må vise at dens forutsigelser er klinisk meningsfulle for leger og sykepleiere. En modell kan være teknisk imponerende, men likevel skape risiko hvis brukerne misforstår anbefalingene eller ignorerer dem. Dette krever at produsentene vurderer hvordan AI-ens resultater tolkes, hvor ofte anbefalinger blir overstyrt og årsakene til dette, i tillegg til tradisjonelle ytelsesmål som sensitivitet og spesifisitet.