Regulering av AI i helse henger etter: LLM-er utfordrer lovverket

Integreringen av generativ AI (GenAI) og store språkmodeller (LLM) i helsevesenet blottlegger et betydelig reguleringsgap, der eksisterende lovverk ikke er designet for disse nye, mer fleksible teknologiene. Dagjeldende regelverk, som amerikanske FDA og britiske MHRA følger, er laget for AI-modeller som utfører spesifikke, forutsigbare oppgaver, eksempelvis å gi en diagnose basert på et sett symptomer. LLM-er, derimot, kan håndtere et bredt spekter av funksjoner, som å summere medisinsk informasjon eller foreslå differensialdiagnoser, ofte på områder de ikke er eksplisitt trent for. Denne fleksibiliteten skaper utfordringer, spesielt fordi LLM-er kan generere feilinformasjon, såkalte hallusinasjoner, og har dårlig repeterbarhet – altså at samme spørsmål ikke alltid gir samme svar. Modeller trent på store internettdata kan også utilsiktet lekke sensitiv pasientinformasjon, ettersom tradisjonelle personvernbarrierer ikke er tilstrekkelige for deres «minne». En konsekvens for norske helseaktører er at nye AI-verktøy, som de som transkriberer pasientsamtaler til journaler, kan havne i en regulatorisk gråsone. Klassifiseringen av LLM-baserte applikasjoner som medisinsk utstyr er uklar, selv om EUs AI-lov klassifiserer mange av dem som høyrisiko-AI-systemer. Reguleringsmyndigheter som FDA og MHRA forsøker å tilpasse seg gjennom en Total Product Life Cycle (TPLC)-tilnærming, som innebærer kontinuerlig overvåking og evaluering gjennom hele produktets levetid. Likevel mangler denne tilnærmingen fullgod beskyttelse mot de unike risikoene som følger med LLM-enes uforutsigbarhet, manglende åpenhet i treningsdata, og de vedvarende personvernutfordringene.