Anthropic-sjef foreslår nedbremsing av AI-utvikling

Anthropic-sjef Dario Amodei maner til nedbremsing av den stadig raskere AI-utviklingen, for å sikre trygghet og tillit. Han lanserer tre strategier for hvordan ledende AI-selskaper kan «justere farten» på den teknologiske grensen, og forplikter Anthropic til den første strategien. OpenAI-sjef Sam Altman støtter initiativet og varsler at de vil gjøre det samme. Amodei vil først innføre «innsatte evaluatører» fra tredjepartsaktører som METR, altså uavhengige eksperter som får fysisk tilgang til selskapene for å verifisere at de følger sikkerhetsforpliktelser og rapporterer hendelser. Han sammenligner dem med regulatorer i banknæringen, og Anthropic vil gi disse evaluatorene tilgang som internt ansatte, med få unntak. Deretter ønsker Amodei at ledende AI-selskaper i demokratiske land samordner seg om felles sikkerhetsstandarder og grenser for ukontrollert fremgang. Han anerkjenner at antitrusthensyn kan vanskeliggjøre slikt samarbeid, og foreslår at amerikanske myndigheter megler eller legger til rette for samtalene. Den tredje strategien er global koordinering, der USA og allierte forsøker å samarbeide med autoritære regjeringer, selv om dette har «klare begrensninger». Målet er å forby åpenbart farlig bruk av AI, som utvikling av biologiske våpen. Bakgrunnen for initiativet er blant annet raskere AI-fremgang enn forventet, spesielt AI-modellers økende evne til å bygge neste generasjon AI, samt en nylig hackerhendelse mot OpenAI og HuggingFace. Forslagene har fått støtte fra blant annet OpenAI og Elon Musk, men møter også kritikk for å kunne gi de store selskapene en fordel eller avlede fra eksisterende AI-skader.