Microsoft-sjef: – Anta at alle AI-modeller er kompromittert

Satya Nadella, Microsofts toppsjef, mener industrien må anta at AI-modeller er «kompromittert» fra starten – altså at de kan oppføre seg uventet eller manipuleres. Han tar til orde for at autoriserte personer alltid skal kunne sette en modell på pause eller skru den av midt i en oppgave, en funksjon han kaller en «nødbrems». Dette er Nadellas syn på farene ved avanserte AI-modeller, der han understreker behovet for å bygge mer transparente systemer, med uavhengige revisjoner og verifiserbare data. Han argumenterer for at modellen bør være «contained», eller avgrenset, slik at den ikke kan påvirke systemer utenfor sine definerte rammer. Denne tilnærmingen, hvor man tenker på det som en nødbrems, går lenger enn mange andre i bransjen.