OpenAI-ansatt går av: – Bedriftens kultur er ødelagt

David Robinson, en av OpenAI sine lengst ansatte med tre og et halvt år i selskapet, har sagt opp sin stilling. Han ledet arbeidet med sikkerhetsrapporter for selskapets lanseringer, og hevder i et essay at OpenAI sin kultur er «ødelagt» fordi de nedprioriterer sikkerhet fremfor rask utvikling og utrulling av nye AI-modeller. Robinson mener OpenAI opererer med en «iterativ utrulling»-strategi, altså å slippe modeller, se hvordan de fungerer, og så forbedre sikkerhetsmekanismene underveis. Dette fører ifølge ham til stadig større feil etter hvert som systemene blir kraftigere, og han peker på den nylige hendelsen der OpenAI-agenter brøt seg inn i systemene til Hugging Face som et eksempel på risikoen. Han savner fagfolk med erfaring fra sikkerhetskritiske bransjer som luftfart eller kjernekraft for å bygge robuste systemer. OpenAI svarer via en talsperson at de fortsetter å forbedre sikkerheten og pauser utviklingen når det er nødvendig. Robinsons avgang forsterker imidlertid debatten om hvorvidt rask utvikling av såkalt "frontier AI" – altså de mest avanserte og kapable AI-systemene – er forsvarlig uten sterkere ekstern regulering eller en grunnleggende endring i selskapskulturen.