Anthropic vannmerker tekst fra Claude: Slik virker Googles metode

Anthropic ruller ut usynlige vannmerker i all tekst generert av språkmodellen Claude. Dette skjer for å etterleve EUs krav til transparens i kunstig intelligens. Løsningen, som Anthropic kaller «en versjon av SynthID-Text», stammer fra Google DeepMind og skal legge inn sporbare mønstre uten å påvirke innholdet. Selve mekanismen utnytter språkmodellenes valg i setningskonstruksjonen. Når en modell skal velge neste ord, står den ofte mellom flere sannsynlige alternativer som gir tilnærmet samme mening – for eksempel «overskyet» eller «grått» i en værmelding. I stedet for et tilfeldig valg, brukes en «nøkkel» og de foregående ordene til å styre modellens valg. Dette skaper et mønster som er usynlig for leseren, men detekterbart for maskiner. Anthropic forsikrer at vannmerkingen ikke vil påvirke kvaliteten på Claudes utdata eller koste ekstra for brukerne. Europeiske reguleringer krever at syntetisk innhold – enten det er lyd, bilde, video eller tekst – merkes maskinlesbart. Google har allerede implementert denne typen vannmerking i sin Gemini-chatbot, og andre store aktører som OpenAI vil også måtte tilpasse seg de nye reglene.