Tidligere OpenAI-ekspert advarer: AI-kulturen er «ødelagt»

David Robinson, som skrev sikkerhetsrapporter for OpenAI, har nylig sagt opp og uttaler i The Atlantic at kulturen i AI-bransjen er grunnleggende feil. Han kritiserer "ekstrem selvtillit" og "uhemmet optimisme" som overser eller undervurderer potensielle farer når selskaper bygger stadig større modeller, også kjent som frontier labs. Robinson krever at AI-selskaper utvikler ydmykhet og innfører sikkerhetstiltak på nivå med kjernekraftverk. Dette innebærer omfattende redundans og nøye planlegging for å unngå katastrofer forårsaket av menneskelige feil – en praksis som står i sterk kontrast til bransjens "move fast and break things"-mentalitet. Advarselen fra Robinson er ikke unik; flere sikkerhetsforskere har forlatt fremtredende AI-firmaer den siste tiden. Tidligere i år trakk Jacob Coxon seg fra Anthropic, og har uttalt at AI "kan ta livet av oss alle innen tiåret", etterfulgt av en rekke andre fra Google DeepMind og Anthropic. Disse avhoppene understreker en voksende bekymring for at utviklingen prioriteres over ansvarlighet, noe som kan endre fokus for regulatoriske krav til norske bedrifter som tar i bruk slike systemer.