Nvidia akselererer smarte AI-agenter med 9x raskere tankeevne

Nvidia presenterer nye teknologier som øker hastigheten på såkalte AI-agenter, altså systemer som selvstendig kan resonnere, planlegge og utføre komplekse oppgaver. Åpne resonneringsmodeller som Nemotron og Cosmos kan tenke opptil ni ganger raskere. Dette skal senke kostnadene for inferens – prosessen der en trent modell tar beslutninger – og dermed gjøre agentplattformer mer effektive. Spesielt innen kundeservice, cybersikkerhet, produksjon og logistikk vil dette ha stor betydning, ettersom agenter over tid lærer og forbedrer seg basert på menneskelig og AI-drevet tilbakemelding. Teknologien inkluderer også NVIDIA NIM for rask distribusjon av modeller og NeMo for livssyklushåndtering av AI-agenter. Nvidia fremhever også AI Factories, spesialisert infrastruktur for å optimalisere hele AI-livssyklusen fra datainntak til inferens i stor skala.