Russisk team brukte Claude AI til å trene kamikaze-droner

Anthropic, selskapet bak språkmodellen Claude, har avslørt at en russisk gruppe brukte deres AI-verktøy til å utvikle programvare for autonome kamikaze-droner. Notisen, som er en del av en trusselanalyse, beskriver hvordan programvaren gjorde det mulig for droner å identifisere og velge mål – inkludert mennesker – for deretter å detonere uten menneskelig innblanding. Utviklerne trente dronesystemet med videoopptak fra den ukrainske krigen, sortert som «fiendtlig» og «vennlig» materiale, og testet det i en simulert Donetsk-region. Rapporten spesifiserer ikke hvor opptakene kom fra, men det illustrerer hvordan visuelt materiale, uavhengig av opphav eller intensjon, kan omdirigeres til militær utvikling. En lignende hendelse involverte reversering av et militært dronesystem for visjon, knyttet til en statlig aktør. For norske virksomheter som vurderer åpen AI, understreker dette behovet for streng vurdering av sikkerhet og bruksvilkår. Selv med restriksjoner kan ondsinnede aktører omgå dem. Sakens kjerne er en bekymring rundt ettersyn med hvordan kraftige AI-modeller kan misbrukes til våpenutvikling, og hva konsekvensen kan bli når AI får avgjøre krigshandlinger uten menneskelig tilsyn.