Nvidia: «Seler» avgjør AI-ens prestasjon, ikke bare modellen selv
Av AIWatch
Nvidias nye forskning viser at programvaren rundt en AI-modell er avgjørende for komplekse oppgaver. Dette kan dramatisk påvirke både resultater og kostnader i næringslivet.
Nvidia har nylig presentert forskning som snur oppfatningen av hva som er viktigst for en AIs prestasjon. De hevder at «selen» – altså programvaren og verktøyene rundt en AI-modell – er viktigere enn selve modellen for såkalte «» (long-horizon tasks). Forskerne brukte en tilpasset sele for å styre minnehåndtering og inkluderte en «veileder»-komponent. Med dette oppnådde AI-modellen Claude Opus 5 en perfekt score på den krevende ARC-AGI-3. Uten selen scoret modellen bare 30 prosent, selv om dette var det beste resultatet blant alle testede modeller. Dette funnet utfordrer tanken om at modellvalget alene driver ytelsen. Mekanismen er at selen gjør modellen til en , som håndterer minne, kontekst og tilbakemeldinger. Den er «API-et» og «rammeverket» som lar modellen utnytte sine evner for å løse oppgaver som krever mange sammenhengende beslutninger over tid. Konsekvensen for bedrifter er betydelig. Feil valg av sele kan doble kostnadene for AI-bruk, ifølge tidligere forskning fra Databricks. Nvidias resultater understreker at en åpen «agent-stack», med kontroll over sele, infrastruktur og kjøretidsmiljø, er avgjørende for å oppnå både nøyaktighet og sikkerhet i komplekse AI-løsninger.
Kilder til denne saken: TechCrunch AI ↗
AI: Research, språk og faktasjekk.
Relatert