OpenAIs nye Decisions API gir ti ganger raskere «ja/nei»-svar

OpenAI har lansert Decisions API i offentlig beta, en ny tjeneste som lar AI-modeller gi raske, strukturerte svar på konkrete spørsmål – istedenfor lange tekstsvar. Systemet kan analysere tekst eller bilder og returnere «ja/nei»-svar (predikater), velge ett av flere alternativer, eller gi en poengsum basert på en forhåndsdefinert skala. Dette er ikke ment for å skrive sammenhengende tekst, men for raskt å vurdere innhold og gi typiserte resultater som annen programvare kan reagere på. For eksempel kan AI-en identifisere om et produktbilde viser skader, eller vurdere alvorlighetsgraden av en teknisk feilmelding. OpenAI hevder at Decisions API er omtrent ti ganger raskere enn å bruke deres Responses API, som ofte krever manuell tolking av tekstsvar. En beslutning via det nye API-et skal ta rundt 150 millisekunder, sammenlignet med omtrent 1,6 sekunder for en standard forespørsel til GPT-6 Luna-modellen. Dette kan bety at flere prosesser kan automatiseres i sanntid. Prisen er 0,10 dollar per 1 million inndatatokens, uten kostnad for utdata. Foreløpig støtter API-et kun modellen gpt-6-luna og er i beta, noe som betyr at OpenAI selv råder brukere til å sette egne terskelverdier basert på egne data. Konkurrenten TypeSafe Jev tilbyr en lignende tjeneste med lavere pris for inndata (0,042 dollar per million tokens), men OpenAI har en fordel med bildebehandling og bredere tilgjengelighet i beta.