AI-medisin: Sykehus overstyrer 90 prosent av smarte råd

AI-drevne verktøy for klinisk beslutningsstøtte (CDS) rulles nå ut i stor skala, drevet av forventninger om et globalt marked på 15 milliarder dollar innen 2033. Disse systemene, ofte basert på store språkmodeller (LLM), lover raskere kunnskapssyntese og mer effektive avgjørelser for helsepersonell. Likevel er tilliten lav. En studie fra 2024 viser at leger overstyrer omtrent 90 prosent av AI-genererte advarsler om medikamentinteraksjoner. Kevin Johnson, professor i pediatri og biomedisinsk informatikk, peker på at systemene ofte prioriterer informasjon unøyaktig, spesielt ved komplekse spørsmål. Leger forkaster derfor anbefalingene. Problemet forsterkes av systemenes nøyaktighet. En revisjon fra mai 2026 av 20 AI-skribesystemer godkjent i Ontario, Canada, avdekket feilaktige notater, hallusinasjoner, feilaktige behandlingsforslag og manglende kliniske detaljer. Ingen av systemene var tilstrekkelig evaluert for å sikre at de ikke skapte urettferdige eller partiske resultater. Dette har ført til et søksmål i California mot tre helsesystemer for bruk av AI-skribenter uten pasientens viten eller samtykke. AI-eksperter advarer mot en uregulert og tilfeldig innføring. Medisinske start-ups som OpenEvidence, Abridge og Atropos Health utvikler spesialiserte CDS-verktøy, men har ulike strategier for data og evidens. OpenEvidence destillerer publisert litteratur, mens Atropos Health fokuserer på upubliserte observasjonsdata fra pasientjournaler. Konkurransen om å tilby den mest pålitelige beslutningsstøtten pågår, og utfordrer også hvordan slike systemer skal evalueres.