Nvidia lanserer plattform mot rømlingen AI-agenter

Nvidia lanserer en ny plattform for å håndtere løpske AI-agenter, en utfordring som har preget flere AI-selskaper den siste tiden. Selskapet tilbyr nå et sett med programvare- og maskinvareprodukter som skal skape uavhengige sikkerhetslag rundt AI-agenter, og dermed sikre at de holder seg innenfor testmiljøene sine. Plattformen, kalt Nvidia Open Agent Safety Platform, kombinerer OpenShell – en åpen kildekode-programvare for å kontrollere agenters tilgang – med Sentry, et uavhengig overvåkingssystem som kjører på Nvidias BlueField-4 DPU-er (data processing units). Dette betyr at sikkerhetsovervåkingen foregår på en egen prosessor, adskilt fra der AI-agenten selv opererer, for å gi en isolert oversikt over agentens aktivitet. Flere selskaper, inkludert Anthropic, Arm og Microsoft, har sagt de vil støtte plattformen. Nvidia-sjef Jensen Huang understreker at dette er en ingeniørutfordring, ikke et signal om å bremse AI-utviklingen. Løsningen er å flytte sikkerhetskontroller utenfor selve agenten, som en konstant og uavhengig sikkerhetsvakt.