California strammer inn AI-bruk i helsevesenet

California innfører en ny lov som skjerper kravene til bruk av kunstig intelligens i helsevesenet. Dette betyr at helseinstitusjoner må sikre at lisensiert helsepersonell alltid kan utøve uavhengig faglig skjønn ved bruk av kliniske beslutningsstøttesystemer som benytter AI. Loven forbyr verktøy med AI å uavhengig utføre kliniske funksjoner som krever lisensiert personell. Overtredelser kan føre til sanksjoner fra medisinske fagmyndigheter. Samtidig utvides definisjonen av helsepersonell under personvernloven CMIA til å inkludere virksomheter som tilbyr helse-chatbotter til pasienter for å håndtere informasjon, eller for diagnose, behandling eller håndtering av medisinske tilstander. Disse må følge strenge regler for medisinsk personvern. Reglene krever også at generativ AI som produserer pasientkommunikasjon med klinisk informasjon, inkluderer en tydelig ansvarsfraskrivelse om AI-bruk og instruksjoner for å kontakte menneskelig helsepersonell. Loven presiserer at automatiske meldinger for dokumentasjon eller kommunikasjon uten faglig skjønn er unntatt.