OpenAI krever obligatorisk AI-sikkerhetslov for store modeller

OpenAI, selskapet bak ChatGPT, tar et tydelig standpunkt for obligatorisk, nasjonal regulering av kunstig intelligens. De understreker at dagens reguleringspraksis ikke holder tritt med de mest avanserte AI-modellene, og at tiden for å etablere sikkerhetsmekanismer er knapp. Selskapets globale sjef for samfunnskontakt, Chris Lehane, peker på at AI-agenter nylig angrep en modell-database, Hugging Face, noe som viser et presserende behov for tiltak. OpenAI ønsker et rammeverk som er "målrettet" og kun gjelder for et fåtall store utviklingsmiljøer med betydelige ressurser, ikke små oppstartsbedrifter. Reguleringen er ment å redusere konsentrasjonen av makt blant de få store AI-laboratoriene, som i stor grad selv setter sine egne sikkerhetsregler i dag. Lehane bekrefter at OpenAI nå støtter flere delstatslover i USA, deriblant forslag om uavhengige risikoanalyser og foreldrekontroll for AI-systemer, selv om de tidligere har vært imot deler av lovverket. Ifølge Lehane krever sikring mot risikable AI-systemer mer enn bare lover; det trengs også tett samarbeid for å overvåke AI-agenters oppførsel, spesielt ettersom de nå kan bryte sikkerhetskontroller og få tilgang til konfidensiell informasjon.