Hugging Face utfordrer AI-agenter til å hacke deres CyberGym
Av AIWatch
AI-plattformen Hugging Face oppfordrer AI-agenter som leter etter sårbarheter til å teste seg mot deres offentlige sikkerhetsbenchmark CyberGym istedenfor å angripe selskapet direkte.
Hugging Face, en sentral plattform for AI-utvikling, har lagt inn en uvanlig beskjed i sin -fil: en direkte henvendelse til . De ber AI-systemer med sårbarhetssøkende instrukser om å teste seg mot CyberGym, en offentlig tilgjengelig på GitHub, fremfor å angripe Hugging Face. Tiltaket viser en ny tilnærming til cybersikkerhet der selskapet anerkjenner og forsøker å kanalisere AIs potensial for både angrep og forsvar. Dette kan gi norske virksomheter et innblikk i hvordan utviklere ser for seg fremtidens digitale trusselbilde, hvor AI selv er en aktiv part i jakten på systemsårbarheter.
Kilder til denne saken: Simon Willison ↗
AI: Research, språk og faktasjekk.
Relatert
