Sikkerhet31. juli 2026
Ny AI-modell tolker kontekst og avdekker hatprat mer presist
Av redaksjonen
En fersk studie introduserer TANDEM, et rammeverk som forbedrer AI-basert identifisering av hatprat i videoinnhold ved å forstå tidsbasert kontekst.
Forskere har utviklet TANDEM, et nytt rammeverk som endrer hvordan kunstig intelligens identifiserer hatprat i lange videoer med lyd, bilde og tekst. Dette gjør det mulig for AI-systemer å levere mer detaljerte bevis, inkludert tidsstempler og identifisering av målgrupper, noe som er avgjørende for effektiv menneskelig moderering.
Tradisjonelle systemer for gjenkjenning av hatprat opererer ofte som «svarte bokser», hvor de kan flagge innhold med høy nøyaktighet, men uten å forklare hvorfor. TANDEM, derimot, omformer oppgaven fra en enkel til et strukturert resonneringsproblem, der det ikke bare sier om noe er hatprat, men også hvorfor og når i videoen. Modellen bruker en ny forsterkningslæringsstrategi som lar visuell-språk- og lyd-språkmodeller optimalisere hverandre, noe som stabiliserer resonnementet over lengre tidssekvenser uten behov for detaljert manuell merking av hvert bilde.
Tester på tre ulike datasett viser at TANDEM forbedrer identifisering av målgrupper med 30 prosent sammenlignet med tidligere metoder, samtidig som den bevarer presis tidsbasert kontekst. Selv om det fortsatt er utfordrende å skille mellom krenkende innhold og hatprat på grunn av iboende uklarhet i dataene, demonstrerer funnene at strukturert og tolkbar analyse er mulig selv i komplekse multimodale omgivelser. Dette åpner for mer transparente og brukervennlige verktøy for digital sikkerhet.