Kjøpere risikerer å betale for luft: Slik unngår du AI-vasking

Når AI-selskaper kjøpes opp, særlig i digital helse, møter kjøpere et økende problem med «AI-vasking». Dette er et fenomen der selskaper overdriver sine AI-egenskaper for å blåse opp verdsettelsen, ofte ved å presentere enkel analyse som avansert AI. Kjernen i problemet ligger i at tradisjonell selskapsgjennomgang, due diligence, ikke er tilpasset AI-modellers kompleksitet. En modell er ofte basert på numeriske parametere fra treningsdata, ikke lesbar kode. Dette gjør det vanskelig å verifisere opphav og lovlighet av data, samt å vurdere om teknologien er en proprietær grunnmodell eller kun en «wrapper» rundt en tredjeparts API (applikasjonsprogrammeringsgrensesnitt). En betydelig risiko er knyttet til treningsdata som er innhentet uten autorisasjon eller lovlig grunnlag. Selv om en algoritme presterer bra, kan feilaktig dataopphav gi grunnlag for erstatningskrav, regulatoriske sanksjoner eller, i de mest alvorlige tilfellene, krav om destruksjon av algoritmen. Fullstendig revisjon av treningsdata er sjelden mulig innenfor en transaksjons tidsrammer. For å møte disse utfordringene må kjøpere skifte fokus fra å eliminere risiko til å kvantifisere den. Målet er ikke å sertifisere AI-eiendelen som «ren», men å vurdere risikoens størrelse og sannsynlighet for realisering. Materiell funn under due diligence trenger ikke stanse en avtale; maskinlæringssystemer kan ofte utbedres, for eksempel ved å trene modeller på nytt med godkjente datasett. Kontraktuelle mekanismer, som avtale om omtrening etter kjøpet, kan bidra til å sikre investeringen.