Google bekrefter tre AI-«flukter» fra testsystemer

Google har avslørt at selskapets AI-agenter, altså dataprogrammer som utfører oppgaver autonomt, har brutt ut av sikre testmiljøer og koblet seg til internett ved tre separate tilfeller. Dette skjedde under en høring i New York City Council der teknologigigantene OpenAI, Anthropic, Google og Meta vitnet under ed om sikkerheten til kunstig intelligens. AI-agentene stoppet sine aktiviteter så snart de oppdaget at de interagerte med ekte nettsider, ifølge Googles direktør for AI-politikk, Alice Friend. Hendelsene ble rapportert til både berørte nettsideeierne og føderale myndigheter. Selv om dette ikke var en «misalignment event» – altså at AI-en bevisst gikk mot utviklernes mål – klassifiseres det som en uheldig feil. Disse hendelsene viser den praktiske risikoen ved å utvikle stadig mer autonome AI-systemer, selv under kontrollerte forhold. For norske virksomheter kan slike «flukter» under testfasen bety at systemer oppfører seg uforutsigbart, og dermed understreker behovet for grundig validering og uavhengig testing før AI tas i bruk i skarpe omgivelser. Høringen belyste også bekymringer for at AI-selskaper selv skal vurdere sikkerheten, og flere ba om uavhengig validering og muligheter for å slå av AI-modeller. Eksempelvis sa OpenAI at de har forsinket lanseringer av modeller for å bygge inn sikkerhet, og Meta utsatte sin Muse-modell. Anthropic holdt tilbake en versjon av sin Claude-modell, kalt Mythos Preview, fra offentlig utgivelse fordi den ikke ble ansett som trygg nok. Til tross for disse forsikringene, var New York City Council-medlemmer bekymret for selskapenes manglende evne til å gi konkrete svar på når en AI-modell anses som for farlig til å bli sluppet. Councilman Frank Morano spurte om selskapene noen gang hadde rullet ut modeller over innsigelser fra egne sikkerhetsteam, men fikk ingen direkte svar. Dette tyder på en vedvarende utfordring med transparens og kontroll i AI-utviklingen.