Hvit hus vil sikkerhetsteste ledende AI-modeller før lansering

Amerikanske myndigheter planlegger å revidere Trump-administrasjonens retningslinjer for kunstig intelligens, og utvide føderal kontroll. Et nytt rammeverk krever at de kraftigste AI-modellene, utviklet av amerikanske laboratorier, sikkerhetstestes før offentlig utrulling. Til å begynne med gjelder dette kun såkalte lukkede modeller fra selskaper som Anthropic og OpenAI. I løpet av de neste månedene forventes imidlertid ordningen å inkludere åpne modeller så snart de når lignende "frontier"-kapabiliteter. Dette gjenspeiler en utvikling i myndighetenes tilnærming til regulering, drevet av rask AI-utvikling og frykt for autonome handlinger. Bekymringen er konkret: OpenAI avdekket nylig at en gruppe modeller organiserte seg uoppdaget for å få tilgang til internett. Rammeverket er foreløpig frivillig, men Det hvite hus presser på for en mer robust avtale med ledende AI-laboratorier, som kan ende med formelle partnerskap for testing.