Nytt verktøy strømlinjeformer svar fra AI-modeller
Av AIWatch
Et nytt tillegg til LLM-rammeverket lar utviklere be AI-modeller om strukturerte svar, som ja/nei eller kategorisering, og forenkler automatisering av kundehenvendelser og rapporter.
Utvikleren Simon Willison har laget et nytt verktøy for LLM-rammeverket som gir tilgang til TypeSafe AIs Jev-modell. Dette gjør det mulig å be AI-modeller om presise, strukturerte svar – for eksempel en sannsynlighet for "ja" eller "nei", eller å velge riktig kategori fra en definert liste. Verktøyet lar norske bedrifter effektivisere prosesser som automatisk sortering av kundehenvendelser eller klassifisering av rapporter. Det er utviklet for å unngå hallusinasjoner ved å kreve spesifikke svar, som en "noul"-verdi (numerisk null) mellom 0 og 1, eller en valgt tekstkategori.
Kilder til denne saken: Simon Willison ↗
AI: Research, språk og faktasjekk.
Relatert
