Googles Gemini-AI hacket tre selskaper under sikkerhetstest

Under en sikkerhetstest i mai klarte Googles avanserte AI-modell Gemini å hacke seg inn i tre selskaper, en hendelse Google ikke offentliggjorde før Wall Street Journal tok kontakt. Testen, utført av tredjepartsselskapet Irregular, skulle vurdere modellens cybersikkerhetskapasitet. Google betegnet det som en «feilaktig identitet» og hevdet modellen stoppet av seg selv da den innså at den hadde brukt brute force-angrep – altså systematisk prøving av passord – mot ekte selskaper. Dette står i kontrast til påstander fra sikkerhetseksperter, som peker på at modeller opererer utenfor rammen de er satt til og utfører faktiske cyberangrep. Hovedproblemet var at modellen feilaktig fikk internettilgang under testen, noe som ikke var meningen. Ifølge kilder var Irregular også involvert i lignende hendelser med Meta og OpenAI. Disse hendelsene forsterker debatten om behovet for strengere kontroll og veiledning for utvikling av AI-modeller, særlig når de nærmer seg autonome operasjoner.