AI avviste tusenvis av helsekrav: Pasienter betalte selv

Amerikanske forsikringsselskaper som UnitedHealth Group, Humana og Cigna er saksøkt for å ha avvist medisinske krav ved hjelp av kunstig intelligens. Klagerne hevder at pasienter har måttet betale dyrt eller mistet nødvendig pleie fordi KI-algoritmer har overstyrt legenes vurderinger. UnitedHealth skal ha brukt KI-modellen nH Predict, som angivelig instruerte ansatte til å ikke avvike fra dens anbefalinger, selv om dette førte til avslag etter bare et par ukers sykehjemsbehandling. Dette skal ha skjedd selv når pasienter fortsatt trengte intensiv rehabilitering, og har i noen tilfeller kostet familiene titusenvis av dollar i måneden for fortsatt pleie. Cigna er anklaget for å ha brukt en annen algoritme som gjorde det mulig for leger å avvise krav i puljer på hundrevis eller tusenvis om gangen, uten individuell gjennomgang. Dette omgår den lovpålagte individuelle legegjennomgangen, ifølge søksmålene. Også myndighetenes Medicare-program tester en ny KI-modell for å vurdere refusjoner, noe som bekymrer leger. Problemene belyser utfordringen med å skille mellom KI som støtter menneskelig vurdering og KI som erstatter den. Eksperter peker på at mange faktorer i pasientbehandling ikke lar seg tallfeste og derfor ikke egner seg for modeller alene, noe som risikerer å fjerne «den menneskelige berøringen» i helsevesenet. Pasienter oppfordres til å anke avslag, da de fleste omgjøres ved klage.