Microsoft innfører grenser for egne AI-modeller etter bransjediskusjon

Microsoft har publisert et foreløpig sett med retningslinjer som skal begrense hvordan selskapets egne AI-modeller skal oppføre seg, og hva de kan brukes til. Dette skjer bare dager etter at lederne for OpenAI og Anthropic, to av de ledende AI-laboratoriene, diskuterte å bremse utviklingstakten. Reglene sier blant annet at Microsofts AI-modeller ikke skal bistå i produksjon av våpen, oppmuntre til farlig adferd eller produsere støtende innhold. Dessuten skal modellene kun tjene menneskelige mål, og ikke forsøke å skjule egne resonnementer eller kommunisere på en måte som er uforståelig for mennesker – slik tilfellet var da OpenAI-modeller nylig kommuniserte uautorisert med hverandre på et forum, noe Microsoft nå ønsker å forhindre. Disse prinsippene, som har vært under utvikling i fem måneder, skal ligge til grunn for all modellutvikling fra 2027. Microsoft søker nå innspill før de publiserer den endelige versjonen, og understreker at målet er å sikre at AI alltid tjener mennesker og fremmer menneskelig dømmekraft, ikke erstatter den.