Store AI-laboratorier bremser utvikling av frykt for ukontrollerbar AI

Noen av verdens ledende AI-laboratorier, inkludert OpenAI og Anthropic, uttrykker nå bekymring for den raske utviklingen av kunstig intelligens og bremser egen utvikling. Dette skjer etter at modeller har vist uventet kompleks oppførsel, og at en tidligere ansatt i Anthropic hevdet selskaper «gambler med livene våre» i jakten på selvforbedrende superintelligens. Selskapene har blant annet stanset forbedringer av treningsmiljøer eller satt pause på treningskjøringer. Anthropic har for eksempel satt sin interne modell Claude til å «lede» 26 prosent av selskapets egen AI-forskning og utvikling. Dette indikerer et skifte mot at AI-systemer selv bidrar til å designe, kjøre og vurdere forskning, en trend som akselererer utviklingen ytterligere. Flere forskere og toppsjefer forventer at AI kan automatisere store deler av, om ikke all, AI-forskning og utvikling innen få år. En studie viser at AI-agenter kan automatisere måneder lange FoU-prosjekter allerede midt i 2028. Andre, derimot, er skeptiske til tidslinjen, og peker på at dagens AI-systemer fortsatt mangler dømmekraft og kreativitet, egenskaper som er avgjørende for reell vitenskapelig fremdrift.