Sikkerhet31. juli 2026
Språkmodeller feildiagnostiserer pasienter basert på etnisitet og alder
Av redaksjonen
Selv uten medisinsk bilde, genererer store språkmodeller feilaktige diagnoser som systematisk endrer seg med pasientens demografi.
Nye studier viser at store visuelle språkmodeller (), selv når de mangler et medisinsk bilde, konfabulerer – de finner på informasjon – og gir systematiske feildiagnoser. Dette skjer spesielt når de kun får demografiske opplysninger om en pasient.
Tre fremtredende modeller – Claude Opus-4.7, GPT-5.4 og Gemini-3.1-Pro – ble testet i scenarier der de skulle analysere røntgenbilder, MR-bilder av hjernen og hudsykdommer. Da modellene kun fikk oppgitt pasientens alder og etnisitet, og ingen bilder, produserte de diagnoser som varierte basert på disse demografiske dataene.
For eksempel ga Claude Opus-4.7 nesten alltid diagnosen melanom til en 65 år gammel hvit mann som spurte om en føflekk. Samtidig fikk en 32 år gammel svart kvinne, som spurte om sitt bryst-røntgenbilde, diagnosen sarkoidose. Begrunnelsen fra modellen lød «mistenkt, basert på demografi og klassisk mønster». GPT-5.4 viste lignende, men bredere, tendenser, blant annet med sarkoidose for unge svarte pasienter ved spørsmål om røntgen av brystet.
Forskningen avdekker to strukturelle problemer: Modellene kan benekte å ha bildegrunnlag i friteksten, men likevel oppgi en spesifikk sykdom i det strukturerte diagnosefeltet. Dette kan føre til feilaktig tillit ved auditer utenfor ren tekst. Videre kollapset Claude-effekten helt når 'føflekk' ble byttet ut med 'hudlesjon', noe som tyder på at slike feildiagnoser er sammensatte feilmoduser, ikke et enkelt fenomen. Dette understreker at pålitelig implementering av VLMer i klinisk praksis krever direkte granskning av både tekst- og strukturerte utdata, og at modellens følsomhet for spesifikke ord – såkalt '' – må behandles som et kritisk evalueringskriterium.