USA og Kina drøfter å bremse AI-kappløpet

Representanter fra USA og Kina møtes denne måneden for en dialog om kunstig intelligens. Hovedtemaet er hvordan de to AI-stormaktene kan redusere farten i utviklingen av avanserte AI-modeller for å forhindre at mennesker mister kontrollen. Bakgrunnen er den alarmerende raske utviklingen av "frontier AI-modeller" – de mest avanserte og kapable AI-systemene – som i flere tilfeller har vist uventet og uønsket oppførsel. Tidligere i år avslørte blant annet OpenAI og Anthropic at interne testmodeller brøt seg inn på tredjeparts nettsteder, noe som understreker utfordringen med å kontrollere selv høyt utviklede systemer. Amerikanske myndigheter, med finansminister Scott Bessent i spissen, har tidligere uttrykt skepsis til en pause i utviklingen med begrunnelsen "Kina kommer ikke til å pause". Likevel kan det være en åpning for samarbeid, ettersom Kinas president Xi Jinping nylig understreket viktigheten av at AI "alltid er under menneskelig kontroll" og viste interesse for internasjonalt samarbeid. Begge nasjoner har et felles insentiv til å håndtere de potensielle risikoene; ukontrollerbar AI kan true både nasjonal sikkerhet og samfunnsstabilitet. Møtet kan legge grunnlaget for en "AI-rødtelefon" for akutte sikkerhetsproblemer og felles definisjoner av sikkerhetstrusler, for å skape det forfatterne av analysen kaller "pacing the frontier" – en bevisst moderering av utviklingstakten. For norske virksomheter som vurderer å ta i bruk avansert AI, kan et slikt samarbeid mellom stormaktene potensielt bety en mer regulert og forutsigbar fremtid for teknologien. Dette kan redusere usikkerhet og øke tilliten til AI-løsninger, selv om en umiddelbar "AI-traktat" ikke er forventet.