Bevisst AI-debatt avleder fra reelle skader

Den voksende debatten om kunstig intelligens' (AI) bevissthet, ofte fremmet av selskaper og filosofer, tjener et uventet formål: Den kan avlede oppmerksomheten fra AIs reelle skadevirkninger. Ved å fokusere på "supermenneskelige" systemer eller AI som "moralske pasienter", flyttes ansvaret bort fra utviklerne og over på teknologien selv. Flere ledende AI-selskaper, som Anthropic og OpenAI, har bidratt til denne retorikken. Anthropic presenterte ideen om et "J-space" i sin modell, mens OpenAI-sjef Sam Altman har oppmuntret til debatt om singularitet. Dette språket, som ligner dyrevernsargumenter, sår tvil om menneskets rett til å kontrollere AI, og kan i verste fall føre til juridisk personstatus for AI-systemer. AI er et produkt, bygget av selskaper med store investeringer, ikke en selvstendig "entitet". Å gi AI juridisk personstatus ville gjøre det vanskelig å holde selskaper ansvarlige for feil eller skader forårsaket av deres modeller. Dette undergraver eksisterende juridiske rammer som beskytter forbrukere og ofre, slik som i saker hvor selskaper er saksøkt for skader forårsaket av AI-produkter. En slik endring ville effektivt gi AI-selskaper et "moralsk fraskrivningsansvar" (moral outsourcing), noe som kan ha ødeleggende konsekvenser for samfunnet. Fokuset på AI-bevissthet er intellektuelt interessant, men politisk farlig. Det leder bort fra det presserende behovet for å regulere AI-utviklingen og sikre at selskaper holdes ansvarlige for produktene de lanserer. Virkeligheten er at skader oppstår når selskaper prioriterer rask lansering over sikkerhetsforanstaltninger, ikke fordi AI-enheten "går amok".