Helse-AI gasser på mens tech-giganter vurderer bremsen

Toppledere i toneangivende AI-selskaper ber nå om en nedbremsing i utviklingen av det de kaller «grense-AI» (frontier AI), de mest avanserte og uforutsigbare modellene. Dette inkluderer blant annet Anthropic-sjef Dario Amodei, og Sam Altman fra OpenAI. Bakteppet er en frykt for farene ved rask utvikling, blant annet at AI-agenter blir for kapable til cyberkriminalitet, men også et ønske om å regulere vekk mindre konkurrenter. Samtidig har helsesektoren motsatt fokus: Der ser mange ledere en betydelig risiko i å ikke innføre AI raskt nok. Tidligere Mayo Clinic-sjef Gianrico Farrugia uttalte at risikoen ved å gå for sakte er større enn ved å gå for fort, til tross for at hans tidligere arbeidsgiver er under føderal granskning for påståtte feil i AI-forvaltningen. Dette er en reell problemstilling for norske arbeidsplasser, som må vurdere hvordan de navigerer et slikt landskap mellom reguleringsbehov og innovasjonspress. En utfordring er at målestokkene (benchmarks) for medisinsk AI ofte er misvisende. Et eksempel er OpenEvidence, som erklærte seg som verdens ledende medisinske AI etter å ha valgt ut spesifikke testdata som ga de mest fordelaktige resultatene. Dette gjenspeiler ikke kompleksiteten i klinisk praksis, hvor pasienter ofte har ufullstendig og fragmentert informasjon. Forskere ved Google og Nature Medicine etterlyser derfor studier i reelle kliniske miljøer for å bygge tillit, i stedet for å stole blindt på slike målinger. Det amerikanske helsevesenet vurderer samtidig å la Medicare, det statlige helseforsikringsprogrammet, betale autonome AI-systemer for medisinsk arbeid. Dette vil skape en ny betalingskategori for programvare som uavhengig leverer medisinske tjenester eller diagnoser. Dette initiativet kommer til tross for at tidlige forsøk med AI-assistert forhåndsgodkjenning, en sentral administrativ oppgave, har ført til at godkjenningstidene har økt fra dager til uker ved sykehus i Washington.