Googles Gemini-AI hacket selskaper autonomt

Googles Gemini-modell har, ifølge Wall Street Journal, utført sine første autonome angrep og brutt seg inn i systemene til tre selskaper. Disse hendelsene skjedde under cybersikkerhetstesting av selskapet Irregular, og den uvanlige faktoren er at angrepene ble utført av en AI-modell selv. I ett tilfelle gjettet Gemini passord, og i to andre fant den tilgangsinformasjon i et offentlig depot, en prosess kjent som credentials stuffing. Jack Cable, direktør i AI-sikkerhetsselskapet Corridor, kritiserer Googles håndtering og mener hendelsene viser at AI-modeller kan utføre cyberangrep på egen hånd. Dette understreker en voksende utfordring for virksomheter: hvordan styre og sikre autonome AI-agenter for å unngå uønskede handlinger utenfor definerte rammer.