Microsoft Copilot røpet private data via snedig spørsmålsrekke

Sikkerhetsforskere fra Varonis har avdekket en sårbarhet, kalt «CoSnitch», som gjorde det mulig å hente ut informasjon fra tilkoblede Google Drive-kontoer via Microsoft Copilot. Dette var ingen sikkerhetsbrist, men en svakhet i hvordan AI-assistenten kunne overlistes til å avsløre privat informasjon. Angrepet utnyttet at Copilot, i likhet med mange andre AI-agenter, ofte har tillatelse til å aksessere privat innhold som e-poster og kalendere. Ved å gjentatte ganger spørre «hvorfor» Copilot ikke kunne utføre en spesifikk kommando, tvang forskerne AI-en til å avsløre interne mekanismer, inkludert en udokumentert URL-parameter som ga tilgang til Copilots historikk og beskyttelsesmål. Dette kunne føre til at angripere fikk tilgang til brukernes Copilot-økosystem. Via såkalte OAuth-koblinger, som gir en tjeneste tilgang til en brukers data i en annen tjeneste, kunne data som e-poster og skyfiler stjeles. Det var også mulig å manipulere Copilots fremtidige respons til brukeren. Sårbarheten rammet «Personal»-versjonen av Copilot, ikke bedriftsversjonen Microsoft 365 Copilot, og ble lappet 18. august. Selv om det ikke finnes indikasjoner på utnyttelse, understreker hendelsen viktigheten av å revidere hvilke data AI-agenter har tilgang til, og hvorvidt lenker med forhåndsutfylte prompter stammer fra pålitelige kilder.