Advarer mot «umulige» AI-modeller: Størrelse dobler ikke faren alene

Advarsler om fremtidige, umulige-å-overvåke AI-modeller vekker bekymring, men OpenAI nyanserer bildet: deres mest avanserte modeller, inkludert Astra, har et beregningsgraf som kun er dobbelt så dypt som GPT-4. Dette indikerer at kompleksiteten ikke alene forhindrer innsyn i hvordan en modell kommer frem til sine resultater. AI-eksperter har tatt til orde for å unngå en kappløpsutvikling mot modeller ingen kan kontrollere. OpenAI fremhever at de bevisst har bevart og bruker teknikker for å overvåke modellens tankerekker. Dette er viktig for norske virksomheter som vil forstå og sikre at AI-systemer opererer som forventet, og ikke utvikler uforutsette egenskaper.