Meta godtok reklame for AI-verktøy som lagde deepfake-porno

Facebook-eier Meta godtok reklame for AI-verktøyet Kromix, som angivelig produserte seksuelt eksplisitte deepfakes av kvinnelige, amerikanske politikere. Dette skjedde til tross for Metas egne retningslinjer mot slikt innhold i annonser. Én videoannonser skal ha brukt en pornografisk deepfake som lignet en kjent politiker. Saken understreker et bredere problem: de store plattformene sliter med å hindre promotering av verktøy som lager ikke-konsensuell intim-bilder. Apple fjernet Kromix fra sin App Store etter mediehenvendelser, men dette viser hvordan plattformenes kontrollsvikt kan la skadelige produkter nå et stort publikum før eksternt press tvinger frem handling. Konsekvensene av ikke-konsensuelle seksuelle deepfakes strekker seg langt. De rammer ikke bare politikere, men også journalister, fagpersoner og privatpersoner, og kombinerer seksuell utnyttelse med desinformasjon og trakassering. Plattform-eiere, app-butikker og myndigheter står overfor et økende press for å oppdage slike verktøy tidlig, håndheve regler og beskytte ofre før skadelig innhold spres.