Toppsjefer fra AI-gigantene frykter «gudelignende» super-AI

Tidligere og nåværende AI-forskere fra selskaper som OpenAI, Google og Anthropic uttrykker dyp bekymring for superintelligens. I en serie intervjuer, samlet av den ideelle organisasjonen Palisade Research, beskriver flere forskere en potensiell «gudelignende» AI som er umulig å kontrollere. Geoffrey Irving, tidligere ansatt hos OpenAI og Google DeepMind, mener sjansen for menneskelig utslettelse er «omtrent et myntkast». Neel Nanda, forsker ved Google DeepMind, anslår risikoen til «minst 10 prosent» – et tall han anser som uakseptabelt høyt. Denne uenigheten om nøyaktig risiko, selv blant eksperter, understreker usikkerheten rundt AI-sikkerhet. Flere av forskerne uttaler at de fortsetter arbeidet med AI fordi de tror de reduserer risikoen innenfra, selv om de er skeptiske til selskapenes motiver. Google-forsker Mary Phuong påpeker at publikum «absolutt bør være mistenksomme» fordi hun blir betalt av et AI-laboratorium. Dette indikerer en pågående debatt om etisk ansvar i AI-utvikling, og hvordan frykt forsterkes når AI-systemer blir stadig mer avanserte og mindre transparente for selv utviklerne.