Kjønns-skjev forskning kan svekke helse-AI

Når AI-systemer trenes på medisinske data, overføres fortidens skjevheter der mannskroppen ofte var normen i forskning. Konsekvensen kan bli at AI-modeller lærer seg diskriminerende mønstre, for eksempel at hjerteproblemer hos kvinner tolkes som psykiske plager. En studie fra 2024 av 692 AI-medisinske enheter godkjent av amerikanske FDA viste at demografisk informasjon og detaljer om ytelsesstudier ofte manglet i offentlige dokumenter, noe som gjør det vanskelig å vurdere skjevhet. Dette understreker risikoen for at gamle antakelser blir innebygd i ny teknologi. Historisk har hormonelle endringer hos kvinner blitt sett på som uønsket variasjon i forskning, og etter thalidomid-skandalen på 50- og 60-tallet ble kvinner i fertil alder ekskludert fra tidlige legemiddelstudier frem til 1993. Selv i dag, når kjønnsrepresentasjon er bedre, viser en gjennomgang fra 2026 av 574 forskningsartikler at kun 44 prosent av dem som inkluderte begge kjønn, analyserte resultater etter kjønn. Dette betyr at data ofte mangler den detaljeringen som trengs for å skille mellom biologiske og kjønnsrelaterte forskjeller, som begge kan påvirke helse og sykdomsforløp. For norske helseinstitusjoner kan dette bety at AI-systemer, selv om de er ment å forbedre diagnostikk og behandling, kan forsterke eksisterende ulikheter. For eksempel kan et AI-system trent på eldre data ha vanskelig for å identifisere hjerteinfarkt hos kvinner, som ofte har andre symptomer enn brystsmerter – slik som nakke- eller kjevesmerter, tretthet og kortpustethet. En grundig gjennomgang av treningsdata og modellens ytelse på ulike demografier er avgjørende for å unngå at AI reproduserer og forsterker skjevheter fra menneskelige beslutninger.