NVIDIA åpner GPU-styring for alle – kan kutte kostnader

NVIDIA har nå frigitt hele Run:ai-plattformen sin som åpen kildekode under Apache 2.0-lisensen. Dette betyr at utviklere og bedrifter kan inspisere, tilpasse og kjøre programvaren selv, uten å måtte betale for en lisens fra NVIDIA. Run:ai er et styringssystem for Kubernetes som optimaliserer bruken av GPU-er – altså grafikkprosessorer som er essensielle for AI-utvikling – ved å fordele utviklings-, trenings- og inferens-oppgaver. Nå som kildekoden er åpen, kan team med riktig kompetanse ta full kontroll over AI-infrastrukturen sin. En ny funksjon, GPU Fractioning Operator, tillater nå hard minnedeling per arbeidsmengde, basert på CUDA 13.4-teknologien, som gjør det enklere å utnytte hver GPU mer effektivt. Tidligere testet NVIDIA også Model Streamer, som klarte å laste modeller 3 til 6 ganger raskere på skyplattformer, noe som kan bety betydelig tidsbesparelse for norske bedrifter med tunge AI-modeller. Selv om gratisversjonen mangler NVIDIAs bedriftsstøtte, åpner dette for mer fleksible og kostnadseffektive AI-operasjoner.