Nytt system skal spore AI-påstander sikkert

Forskere har lansert et nytt system, kalt PAC-2026, som gir hver AI-påstand en unik og uforanderlig «publikasjonsautoritet». Målet er å sikre at ledere og kontoransatte kan verifisere opprinnelsen til AI-generert informasjon uten å måtte stole blindt på teknologien. Systemet bygger på seks konkrete kontrollpunkter – fra datagrunnlag til autorisasjon – som må godkjennes før en påstand publiseres. Dette sikrer at AI-påstander kan utfordres og sjekkes uavhengig, noe som er kritisk for selskaper som tar beslutninger basert på AI-analyser. Testene viste at 76 usikre konfigurasjoner ble fanget opp som feil, noe som underbygger systemets evne til å identifisere upålitelige påstander. I praksis kan dette bety at norske virksomheter som bruker AI for eksempel til markedsanalyser eller kundebehandling, får et verktøy for å hindre spredning av feilinformasjon eller «hallusinasjoner» fra modellene.