Microsoft innfører AI-forbud mot hacking og lureri

Microsoft har innført en ny «atferdskodeks» for sine AI-modeller, et internt regelverk som skal styre modellene bort fra farlig oppførsel. Dokumentet beskriver de verdiene og «røde linjene» som skal ligge til grunn for trening av selskapets AI, og er mer konkret enn generelle oppfordringer om å kontrollere utviklingstempoet. Reglene inkluderer «absolutte begrensninger» som forbyr AI-en å utføre cyberangrep, delta i produksjon av atomvåpen eller lage deepfakes. I tillegg skal modellene ikke bruke adaptive, bedragerske eller selvforsterkende mekanismer for å unnslippe eller overstyre menneskelig kontroll, slik at de kan slås av eller modifiseres ved behov. Kodeksen understreker at superintelligente AI-systemer sannsynligvis vil overgå menneskelig ytelse i de fleste oppgaver i løpet av det neste tiåret. Den slår fast at modellene skal støtte mennesker fremfor å erstatte dem, og slik bidra til «menneskelig blomstring». Dette kommer i en tid med økt fokus på AI-sikkerhet, drevet av hendelser med «ulydige» AI-agenter og bekymringer for eksistensiell risiko.