California vil tvinge AI-selskaper til å bygge «drepebryter»

Guvernør Gavin Newsom i California leder an i reguleringen av kunstig intelligens med en fersk ordre. Denne instruerer staten om å undersøke krav til en såkalt «kill switch» – en avbryter for å stanse en AI-modell dersom den oppfører seg uønsket eller ukontrollert. Ordren pålegger en ekspertgruppe å komme med anbefalinger innen to måneder. De skal vurdere hvordan AI-selskaper kan pålegges å ha uavhengige revisjonsgrupper på stedet, med jevnlige kontroller av gjennomsiktighetsrapporter og risikovurderinger. Dette skal sikre at selv avanserte «frontier models» er trygge, altså AI-modeller som er så kraftige at de utfordrer grensene for dagens kapasitet og kunnskap. Newsom kritiserer mangelen på AI-regulering fra amerikanske føderale myndigheter. Han ønsker at Californias tiltak, som også inkluderer et rammeverk for uavhengige AI-verifiserere, skal være en mal for hele USA. Målet er å handle raskt for å forhindre potensielle farer, ikke minst etter advarsler fra AI-forskere om risikoen for eksistensiell trussel.