Mange søker helseråd fra AI, frykter likevel misbruk

En fersk rapport fra Pew Research Center viser at 33 prosent av amerikanere har brukt AI-chatboter for medisinsk diagnose eller behandling. Majoriteten finner verktøyene nyttige, ofte for å få gratis eller rimelige diagnoser, eller for å forstå eksisterende diagnoser og laboratorieresultater. Til tross for denne bruken er tilliten lav. Over 7 av 10 amerikanere mener det er svært viktig at leger informerer dem om AI brukes i behandlingen deres. Kun 22 prosent forstår bruken av AI i helsevesenet, og nesten halvparten er usikre på om AI har blitt brukt i deres egen behandling. Flere ønsker mer kontroll over denne beslutningen. Bruken av AI-chatboter for medisinske råd reiser flere bekymringer. Slike åpne AI-modeller er ofte ikke underlagt helselover som HIPAA (Health Insurance Portability and Accountability Act), noe som kan medføre personvernrisiko. Chattboter har gjerne heller ikke tilgang til pasientens medisinske historikk og klinisk kontekst, og kan derfor gi feilaktig informasjon som skaper falsk trygghet eller unødig panikk. En mulig løsning er at medisinske institusjoner utvikler egne AI-programmer for helseinformasjon i kontrollerte omgivelser. Disse vil da kunne omfattes av eksisterende helseregelverk. Eksperter fremhever behovet for utdanning og samtykke fra pasienter for bredere aksept av AI i helsevesenet.