Ordliste
KV cache
Et minneområde i store språkmodeller som lagrer tidligere beregnede nøkkel- og verdipar for å akselerere prosessering av nye forespørsler.
Notiser som nevner dette begrepet
Ingen publiserte notiser har koblet «KV cache» ennå.
Nyhetsbrev
Få nyhetsbrevet i innboksen
Hvert nyhetsbrev samler ukens viktigste AI-nyheter — korte, kildebelagte saker skrevet for norske lesere. Du får en e-post med nytt nyhetsbrev, gratis. Vil du heller lytte? Nyhetsbrevet finnes også som podkast. Du kan melde deg av når som helst.