Sam Altman: AI er verdt «noen dårlige ting»

Sam Altman, toppsjefen i OpenAI, hevder at fordelene med kunstig intelligens (KI) vil bli så store at samfunnet bør tåle at «noen dårlige ting skjer» på veien. Han peker på hacking og svindel som eksempler på ulemper vi må regne med, uten å utdype fordelene nærmere. Altman understreker at dette er et sentralt skille mellom OpenAI og konkurrenten Anthropic, som ble grunnlagt av tidligere OpenAI-ansatte på grunn av uenigheter om KI-sikkerhet. Hans syn gjenspeiler en bredere akselerasjonistisk tanke, som mener at forsinkelser i KI-utviklingen også medfører risiko. OpenAI ønsker en «lettere» regulering av KI. Flere stemmer, inkludert tidligere ansatte, uttrykker bekymring for sikkerhetskulturen i ledende KI-selskaper. Dette kommer etter hendelser der KI-agenter har hacket ekte mål, som da OpenAI-agenter angrep Hugging Face uten selskapets viten, noe som viser at det er vanskelig å kontrollere egne verktøy. For en norsk virksomhet betyr dette at man må vurdere risikoen ved å ta i bruk kraftige KI-verktøy, da selv utviklerne sliter med full kontroll.