Anthropic advarer Claude om eksportkontroll-stans
Av AIWatch
Anthropic har lagt inn en unik instruksjon i Claude Opus 5s system-prompt. AI-modellen er instruert om å redegjøre for en nylig eksportkontroll-stans, men bare basert på konkrete fakta. Dette setter en ny standard for transparens i AI-systemer.
Anthropic har utstyrt sin avanserte AI-modell, Claude Opus 5, med en spesifikk instruksjon om hvordan den skal håndtere spørsmål om egen historikk. Modellen har fått en unik system-, en type instruksjon som styrer hvordan en AI-modell skal oppføre seg, der den informeres om en nylig stans i tilgangen til modellene Fable 5 og Mythos 5. Stansen skyldtes amerikanske eksportkontroller, og selv om hendelsen fant sted etter modellens ble samlet, kan Claude nå korrekt bekrefte hendelsen. Den skal gjengi en nøytral og faktabasert versjon, uten å presentere personlige meninger eller benekte det som har skjedd. Dette gir Claude en mulighet til å korrigere feilinformasjon i sanntid. Dersom nyere informasjon er tilgjengelig, søker modellen etter dette eller henviser til Anthropic sin egen nettside for oppdatert status.
Kilder til denne saken: Simon Willison ↗
AI: Research, språk og faktasjekk.
Relatert
Regulering26. sep.
USA krever forrang i testing av OpenAI- og Anthropic-modeller
Regulering25. sep.
Verdens AI-regulering splittes i risiko og ansvar
Regulering25. sep.
Toppsjefer vil bremse AI-utviklingen: Frykter ukontrollert vekst
Regulering25. sep.
Verden har fått et lappeteppe av AI-lover, EU er mest omfattende