Ny arkitektur skiller samtalehistorikk fra AI-modell
Av AIWatch
Et nytt arkitekturmønster løser utfordringen med lagring av samtalehistorikk for bedrifter som bruker AI-modeller, og gir dem kontroll over egne data.
Forskere foreslår en ny arkitektur kalt «Hydration Proxy Pattern», som skiller samtalehistorikk fra selve AI-motoren. Dette gjør det enklere for virksomheter å håndtere brukernes data, selv når de bruker AI-modeller som i utgangspunktet ikke husker tidligere samtaler. Arkitekturen er spesielt utviklet for å adressere utfordringen med at store språkmodeller (LLM-er) er «stateless» – altså at de ikke lagrer informasjon fra tidligere interaksjoner. Den nye tilnærmingen sikrer bedrifter suverenitet over egne samtaledata, samtidig som den muliggjør avansert "" for kontekstforståelse i flere trinn. Et "Context Stabilization Mandate" er foreslått for å balansere datakontroll og ytelse.
Kilder til denne saken: arXiv cs.AI ↗
AI: Research, språk og faktasjekk.
Relatert