OpenAI kopierer AI-verktøy for raskere og billigere beslutninger

OpenAI har introdusert "Decisions API", et nytt programmeringsgrensesnitt som lar deres AI-modeller, som Luna, velge mellom forhåndsdefinerte alternativer. Dette ligner på Jev, en modell fra TypeSafe AI som allerede brukes til å gi AI-er raske og kostnadseffektive beslutningsfunksjoner. Prinsippet er å fokusere modellen på et begrenset sett med valg, som for eksempel å klassifisere et bilde eller styre en AI-agents atferd. Ved å spesialisere AI-en på denne måten blir den betydelig raskere og billigere enn tradisjonelle store språkmodeller (LLM-er), selv om den fortsatt beholder komplekse evner som bildeforståelse og språkhåndtering. TypeSafes toppsjef Diogo Almeida, en tidligere OpenAI-ingeniør, kaller dette en "System One-kompatibel" tilnærming, for rask, intuitiv tenkning. Dette har direkte konsekvenser for norske arbeidsplasser som bruker eller utvikler AI-agenter. For eksempel kan en slik modell overvåke AI-agenter for uønsket oppførsel mye billigere enn før. Et eksempel viser at overvåking av agent-handlinger kan koste 2,94 dollar med Jev, mot 372 dollar med en vanlig "frontier LLM", noe som åpner for sanntidsovervåking som tidligere var for dyrt.