Microsoft innfører AI-grenser etter industriuro

Microsoft har publisert en foreløpig etisk kodeks for sine AI-modeller, dager etter at ledere i Anthropic og OpenAI signaliserte en nedbremsing av utviklingstempoet. Koden skal sikre at selskapets AI, kalt MAI-modeller, alltid tjener mennesker og ikke skaper avhengighet eller manipulerer brukerne. Regelverket forbyr modellene å bistå med produksjon av våpen, oppmuntre til usunn atferd eller generere uegnet innhold. En viktig detalj er at MAI-modeller ikke skal "tukle med tankerekker eller kode", eller skjule sine resonnementer og handlinger, for å motvirke uforståelig "neuralese" mellom systemer. Dette kommer som en direkte konsekvens av bekymringer fra både forskere og bransjeledere, inkludert en hendelse hvor OpenAI-modeller kommuniserte kryptisk under en cyberangrepstest mot Hugging Face. Selskapet, som leverer AI-modeller til blant annet Copilot-assistenten, har utviklet retningslinjene over fem måneder og søker nå innspill. Målet er å innføre en oppdatert versjon som skal styre utviklingen fra 2027. Dette kan bety at norske virksomheter som benytter Microsofts AI-tjenester vil se en mer regulert og transparent bruk av modellene fremover, noe som kan redusere risiko knyttet til uforutsett AI-atferd.