Meta tar i bruk AI for å stoppe annonser som lokker til overgrepsmateriale

Meta, eierselskapet bak Facebook og Instagram, har satt inn nye AI-verktøy for å identifisere annonser og kontoer som brukes til å lede brukere til ulovlig innhold med overgrep mot barn. Dette er en direkte respons på at kriminelle stadig endrer metodene sine, og nå bruker uskyldige annonser som en inngangsport. Selskapet har blant annet utviklet et nytt stort språkmodell-system (LLM) for å oppdage det de kaller «signposting» – altså annonser som i utgangspunktet virker harmløse, men som mistenkes for å dirigere brukere til ulovlig innhold utenfor Metas plattformer. Ved å analysere hvor annonsene faktisk sender brukerne, kan Meta nå blokkere nettsteder og ta grep mot kontoene bak. I tillegg bruker Meta en «red-teaming AI agent» for å teste egne sikkerhetstiltak, altså et AI-system som aktivt søker etter sårbarheter som ondsinnede aktører kan utnytte. Dette skal bidra til å finne nye misbruksmetoder før de blir utbredt. I første halvdel av 2026 tok Meta grep mot 33,2 millioner stykker overgrepsmateriale, der over 97 prosent ble funnet av AI-systemene før det ble rapportert av brukere.