Sykehus-AI imponerer i demo, men feiler på akuttmottaket

Mange sykehusprosjekter med kunstig intelligens (AI) fremstår overbevisende i møterommet, med grundige presentasjoner og utvalgte pilotgrupper. Men når disse AI-modellene skal fungere i en travel hverdag, som et akuttmottak klokken to om natten, viser det seg ofte at de ikke lever opp til forventningene. Dette handler ikke om algoritmene i seg selv, men om hvordan AI velges, styres og implementeres for helsepersonell under press. Hovedproblemet er at demoene er optimalisert for «rene» data og idealiserte scenarioer, mens virkeligheten krever rask handling med ufullstendig informasjon. En modell som scorer høyt i testing med retrospektive datasett – altså historiske, ofte kuraterte data – kan likevel senke tempoet for en kliniker hvis den krever mange klikk, åpner i et eget vindu, eller fyller innboksen med varsler som ikke er relevante for pasienten akkurat da. Pilottestene unngår ofte de mest utfordrende situasjonene, som nattarbeid, pasienter med språbarrierer eller mangelfull dokumentasjon. For å unngå dette, bør sykehusledelsen innføre en «klokka 02»-test før nye AI-verktøy kjøpes: fungerer løsningen selv i de mest krevende situasjonene? Den må redusere arbeidsbelastningen, fungere med ufullstendige pasientjournaler, og gi anbefalinger en lege kan forsvare. Klinisk personell må involveres tidlig i valgprosessen, og suksess bør måles i spart tid og redusert varslingsmengde, ikke bare i en modells prediksjonskraft eller AUC (Area Under the Curve) – et mål på en klassifiseringsmodells evne til å skille mellom positive og negative klasser. Det trengs også et klart eierskap for å overvåke at modellen ikke driver, altså gradvis mister nøyaktighet over tid, og en plan for å slå den av om nødvendig.