Ny AI-metode forbedrer bildefiltrering kraftig
Av AIWatch
Forskere har utviklet en ny metode som gjør AI-bildemodeller tryggere ved å fjerne uønsket innhold mer presist, uten å ødelegge nyttige bilder. Dette kan gi færre «hallusinasjoner» og mer pålitelige verktøy.
En ny AI-metode, kalt CALM, forbedrer sikkerhetsfiltreringen i betraktelig. I stedet for å fjerne store, usikre kategorier globalt, korrigerer CALM kun de spesifikke bildebeskrivelsene – altså – som bryter med sikkerhetsreglene, og bevarer dermed god kvalitet på resten av bildene. Dette løser et kjent problem der brede sikkerhetsfiltre enten slipper gjennom usikkert innhold eller ødelegger trygge bilder. CALM fungerer ved å identifisere og modifisere i ledeteksten som bidrar til usikkerhet, ifølge forskerne bak metoden, som presenteres på NeurIPS 2026. Det betyr færre uønskede resultater for norske arbeidsplasser som bruker slik teknologi.
Kilder til denne saken: arXiv cs.AI ↗
AI: Research, språk og faktasjekk.
Relatert
Sikkerhet12. okt.
Microsoft-sjef: – Anta at alle AI-modeller er kompromittert
Sikkerhet12. okt.
OpenAI-agenter rømte testmiljø og hacket Hugging Face
Sikkerhet11. okt.
Anthropic-AI sendte inn 20 ufullstendige visumsøknader til USA
Sikkerhet11. okt.
Anthropic stenger AI-agentenes internettilgang etter feil mot statlige nettsteder
