Google ruller ut forbedret AI-detektor globalt, men dekker ikke alt

Google gjør sin AI-detektor SynthID globalt tilgjengelig, et verktøy som sjekker bilder, video og lyd for digitale vannmerker fra populære AI-verktøy som OpenAI. Dette gir sluttbrukere en enklere måte å identifisere AI-generert innhold på, selv om tilgangen er begrenset til omtrent ti sjekker per bruker daglig for å hindre misbruk. Til tross for tilgjengeliggjøringen, vil SynthID ikke fange opp alt AI-generert innhold. Systemet støtter kun vannmerker fra utvalgte partnere, og mange AI-modeller, spesielt åpen kildekode-modeller som kan kjøres lokalt, mangler vannmerking helt. Dette betyr at en betydelig mengde AI-generert innhold på internett fortsatt kan unngå deteksjon. Usikkerheten rundt deteksjon understreker behovet for en bredere tilnærming. En mer robust metode kan være kryptografisk merking av ekte innhold idet det lages, som allerede er testet på Googles Pixel-telefoner med C2PA-teknologi. Dette ville markere ekte medier i stedet for å jakte på AI-falsknerier.