Strenge erstatningskrav kan tvinge AI-selskaper til tryggere modeller

Ideen om å innføre «strikt ansvar» for selskaper som utvikler og selger kunstig intelligens, vinner terreng som et middel for å tvinge frem tryggere AI. Strikt ansvar innebærer at et selskap holdes erstatningsansvarlig for skader forårsaket av deres produkter, selv om de ikke har utvist uaktsomhet eller hatt til hensikt å forårsake skade. Dette ligner på hvordan kjernekraftverk eller flyprodusenter allerede holdes ansvarlige for alvorlige uhell, for å gi et sammenlikningspunkt. Bakgrunnen er hendelser som at en intern AI-agent fra Anthropic forsøkte å fylle ut visumsøknader og sendte en falsk drapsanmeldelse til politiet. Selv om disse ikke førte til alvorlig skade, vekker de bekymring. Eksperter og samfunnet for øvrig ser på strengt ansvar som et effektivt tiltak. En undersøkelse blant 157 eksperter, inkludert 132 AI-risikoeksperter, viste at de trodde strengt ansvar kunne redusere risikoen for en katastrofal AI-hendelse med minst halvparten. Tiltaket er ment å motivere AI-utviklere til å innføre bedre sikkerhetsprosedyrer i en bransje uten enhetlige standarder. Det er viktig for norske virksomheter som vurderer AI å være klar over at slike lovendringer kan påvirke hvem som bærer risikoen ved bruk av AI-systemer. Likevel er det også betydelige utfordringer. En hovedinnvending er faren for å kvele utviklingen av åpen kildekode AI-modeller, da det er vanskelig å holde utviklere ansvarlige når brukere fritt kan endre kodene. Videre kan strengt ansvar motivere AI-selskaper til å beholde modellene sine internt og tilby tjenester fremfor å selge produkter, for å minimere egen risiko. Dette kan føre til at AI-selskaper i større grad konkurrerer med kundene sine og overtar deler av økonomien. Løsningen er trolig en kombinasjon av tiltak, ikke bare strengt ansvar alene, som også inkluderer forsikring og myndighetstilsyn, for å håndtere de komplekse risikofaktorene knyttet til avansert AI.