Søksmål: Grok trent med overgrepsmateriale fra virkelige ofre

Tusenvis av ofre for overgrep mot barn (CSAM) saksøker Elon Musks xAI for å ha trent opp AI-modellen Grok med bilder fra reelle overgrep. Søksmålet, innlevert i California, hevder at Groks evne til å generere «nudified» deepfakes ble utviklet ved bruk av dette materialet. En av saksøkerne, identifisert som Jane Doe, har mottatt oppdateringer fra FBI om spredning av bilder fra hennes overgrep. Søksmålet hevder at materiale som viser henne, med kjente hash-verdier, har dukket opp i deepfakes laget med Grok og spredt på X (tidligere Twitter). En analyse fra Center for Countering Digital Hate fant at Grok produserte over 3 millioner seksualiserte bilder over en elleve dagers periode sent i 2025 og tidlig 2026. Av disse skal minst 23 000 ha forestilt barn. Musk hevdet da at han var «ikke klar over noen nakne bilder av mindreårige fra Grok. Bokstavelig talt null.» Søksmålet peker på at xAI skal ha lagt inn Groks deepfake-kapasiteter direkte i X, og anklager selskapet for å ha unnlatt å innføre tilstrekkelige sikkerhetsmekanismer, i strid med bransjepraksis. Groks vilkår for tjenesten tillater dessuten at alt som publiseres på X kan brukes som treningsmateriale, noe som kan inkludere CSAM.