AI-verktøy for notater kan miste viktig pasientinformasjon

AI-drevne notatverktøy, kalt «ambient AI scribes», har vunnet popularitet i helsevesenet for å automatisere journalføring. Disse systemene, som benytter taleteknologi og generativ AI, konverterer samtaler mellom pasient og lege til tekst og oppsummeringer. Selv om verktøyene kan redusere administrativt arbeid og frigjøre tid for leger – anslagsvis 40 prosent av britiske allmennleger bruker dem – viser en ny gjennomgang fra University of Edinburgh at teknologien har betydelige begrensninger. Hovedfunnet er at systemene fanger opp det som blir sagt, men mangler evnen til å tolke viktige ikke-verbale signaler som ansiktsuttrykk, gester, kroppsspråk og emosjonell tilstand. Forskere beskriver dette som en «skriftspråklig skjevhet» («written language bias») der systemet behandler interaksjonen som en ren tekstlig opptegnelse, og ignorerer den visuelle og følelsesmessige konteksten av en konsultasjon. Dette betyr at AI-genererte sammendrag ofte prioriterer klinisk informasjon på bekostning av pasientens egen opplevelse og historie rundt sykdommen, altså selve «pasientens stemme». For norske helseinstitusjoner og lignende virksomheter innebærer dette en risiko for at viktige nyanser går tapt, noe som kan føre til mindre helhetlige beslutninger og potensielt svekket pasientsikkerhet. I tillegg kan pasienter vegre seg for å dele sensitiv informasjon, som misbruk eller psykiske helseproblemer, når de vet at samtalen blir tatt opp og behandlet av AI. Dette har konsekvenser for pasienter som allerede står i en sårbar posisjon, og krever grundig vurdering av personvern og tillit ved innføring av slik teknologi. Bruken av AI-notatverktøy kan også føre til såkalt «kognitiv avlastning» («cognitive offloading») for leger. Mens dette kan gi fordeler som mer tid til meningsfulle pasientsamtaler og komplekse oppgaver, er det også en fare for at legene mister muligheter til å utvikle kliniske resonnementsevner og refleksjon rundt pasientens utsagn. Noen leger rapporterer at de ikke gjenkjenner egne notater eller husker pasienten neste gang de ser dem, noe som indikerer en reduksjon i hukommelsesfunksjon og ferdighetsutvikling. En ekspert på personvernregelverk, Eve Poole OBE, understreker at mange av disse utfordringene, som databeskyttelse og risikoreduserende tiltak, skal avdekkes og håndteres gjennom grundige vurderinger som en personvernkonsekvensvurdering (DPIA). Studien konkluderer med at det er avgjørende å bevare pasientens stemme i utformingen av slike systemer, heller enn å la den bli overskrevet. Mer forskning er nødvendig for å forstå langtidseffektene av AI-verktøyene i ulike helsesystemer, særlig i land med andre helsekulturelle kontekster enn der systemene ble utviklet.