Medisinsk AI mangler ofte kausalitet og klinisk verdi

Nye analyser fra Nature Biomedical Engineering retter et kritisk blikk mot den raske utviklingen av AI i medisin. Eksperter advarer om at mange verktøy, selv høyt profilerte, ikke klarer å levere meningsfull nytte for pasienter, klinikere eller helsevesenet i praksis. En hovedårsak er mangelen på kausalitet – altså evnen til å forstå årsakssammenhenger, ikke bare statistiske korrelasjoner. Dagens AI-modeller kan derfor være sårbare for skjevheter i data og sliter med å generalisere på tvers av ulike kliniske miljøer. Dette reiser spørsmål om tillit og sikkerhet, særlig når "svarte boks"-tilnærminger brukes. Flere forskere foreslår løsninger som kan styrke medisinsk AI. Ett perspektiv fremmer "Medical Reasoning AI" (MRAI) med kontinuerlig interaksjon fra klinikere, integrering av systemer, og læring gjennom refleksjon. Andre peker på kausal grafbaserte nevrale nettverk for bedre generalisering og nevrosymbolsk AI for økt nøyaktighet og ansvarlighet. Samtidig vies oppmerksomhet til overdreven hype rundt store grunnmodeller (FMs) og store språkmodeller (LLMs) innen bildediagnostikk og patologi. Forskere finner at disse ofte er gode på mønstergjenkjenning, men svikter i kausal tenkning og robusthet. Mindre språkmodeller (SLMs) fremheves som et mer praktisk og kostnadseffektivt alternativ for klinisk bruk, spesielt i ressursbegrensede områder.