Google holder kraftig AI-modell tilbake for sikkerhetssjekk

Google har annonsert at deres kraftigste AI-modell, Gemini 4 Argon, kun blir tilgjengelig for et utvalg cybersikkerhetseksperter foreløpig — en avgjørelse selskapet begrunner med behovet for en fasevis utrulling av banebrytende teknologi for å sikre trygg bruk. Denne forsiktige tilnærmingen ligner konkurrenten Anthropic, som har holdt sin mest avanserte modell, Claude Mythos Preview, under streng kontroll. Bakgrunnen er frykt for misbruk: Modellenes avanserte kapasitet innen blant annet programvareutvikling og feilretting kan ifølge eksperter også utnyttes av hackere til å angripe banker eller sykehus. Amerikanske myndigheter har i juni tvunget Anthropic til å stoppe tilgangen til tidligere offentliggjorte modeller etter sikkerhetsbekymringer, og jobber nå med en frivillig prosess for å godkjenne kraftige AI-modeller før de slippes. Google har gitt den amerikanske regjeringen tidlig tilgang til Argon og skal samle tilbakemeldinger før en bredere lansering. Modellen er også designet for å nekte forespørsler som kan hjelpe med cyberangrep eller utvikling av kjemiske våpen, og Google overvåker modellens tankeprosesser for å unngå såkalt misalignment – altså at AI-en handler mot brukerens intensjon.