Regulering av AI-modeller i helsevesenet henger etter: Nye retningslinjer trengs

Nye retningslinjer for kunstig intelligens i helsevesenet må utvikles raskt for å håndtere generativ AI og store språkmodeller (LLM-er). Dagens regelverk er primært designet for AI som utfører spesifikke oppgaver, ikke for de fleksible og bredere anvendelsene av generativ AI, som kan oppsummere medisinsk informasjon eller foreslå differensialdiagnoser. Amerikanske FDA og britiske MHRA tilpasser nå sin Total Product Life Cycle (TPLC)-tilnærming for å inkludere kontinuerlig overvåking av AI-baserte medisinske enheter fra utvikling til etterlansering. Dette skal muliggjøre raskere innovasjon og tidlig risikoidentifisering, men krever betydelige ressurser og internasjonalt samarbeid for å fungere effektivt. Utfordringene er mange: LLM-er trenes på enorme datamengder som kan inneholde feilinformasjon, noe som gjør grundig gjennomgang bortimot umulig. I tillegg er modellens utdata ofte ikke-deterministiske, altså varierende selv med samme spørsmål, og det er uklart hvor ofte såkalte hallusinasjoner oppstår i klinisk bruk. Personvern er også et problem, da LLM-er kan "huske" og reprodusere sensitiv helseinformasjon. Reguleringsmyndighetene mangler også en felles forståelse for hvordan LLM-er skal klassifiseres som medisinske enheter. Dette skaper gråsoner, som med verktøy som transkriberer pasient-lege-samtaler og foreslår kliniske notater, hvor det er uenighet om hvorvidt de krever regulering. Uten tydelige, internasjonalt harmoniserte standarder, risikerer norske helseforetak å implementere AI-løsninger med uavklarte risikoer.