Hvem får regningen når AI feiler i helsevesenet?

Når kunstig intelligens (AI) går fra å ordne administrative oppgaver til å påvirke medisinske beslutninger, reiser det spørsmålet om hvor mye menneskelig overvåkning som er nok. En sentral problemstilling er hvem som er ansvarlig når AI-støttet helsehjelp slår feil. Tidligere Anthropic-forsker Jacob Coxon trakk seg nylig grunnet bekymringer for for rask AI-utvikling, og Anthropic-sjef Dario Amodei har tatt til orde for uavhengige sikkerhetsvurderinger av AI-systemer. Helserettsadvokat Amanda Hill er tydelig: AI er et verktøy, og legen som bruker det, er ansvarlig for behandlingen. Hun advarer mot overdreven tillit til AI, selv når systemene har høy nøyaktighet, for eksempel om AI-oppsummeringer er korrekte i 95 prosent av tilfellene. En feil som å forveksle legemidlene Celebrex og Celexa i en AI-generert notis, kan få alvorlige konsekvenser for pasienten hvis legen ikke fanger den opp. Slike feil kan også forplante seg i pasientjournalen og gjøre dem vanskeligere å oppdage senere. Ansvaret blir enda tydeligere når AI begynner å foreslå diagnoser og behandlingsplaner. Legen må da sikre at alle testresultater og pasientdata vurderes, spesielt de som AI-systemet kanskje ikke fanger opp. Dette betyr at norske helseinstitusjoner som tar i bruk AI-verktøy, må etablere rutiner som sikrer at «mennesket i loopen» fortsatt har fullt kontroll og oversikt, og ikke bare blindt signerer på AI-generert innhold. Dette understreker behovet for en balanse mellom effektivitet og forsvarlig klinisk skjønn.