AI-verktøy mangler funksjoner for å sjekke feil og kilder, hevder AI-ekspert

Mange av dagens AI-verktøy, inkludert de store språkmodellene (LLM-ene) som ChatGPT og Gemini, mangler grunnleggende funksjonalitet som gjør dem upålitelige for seriøst arbeid. Ifølge en AI-ekspert skyldes dette at utviklerne ikke tar modellens egne begrensninger på alvor. Eksperten peker på at alle chatbots advarer brukere om feil, men ingen tilbyr verktøy for å enkelt sjekke informasjonen. En seriøs AI-applikasjon, spesielt for forskning eller programvareutvikling, burde ha innebygde funksjoner for å verifisere svar. Dette kunne for eksempel vært en to-kolonne-visning der AI-ens påstander står i den ene kolonnen, og brukeren fyller inn egne notater og bekrefter kontrollen i den andre, gjerne med et avkrysningsfelt. Et annet kritisk punkt er kildehenvisninger. Chatbots gir ofte vage eller ufullstendige kilder, selv om de bruker teknikker som RAG (Retrieval Augmented Generation) for å hente informasjon. For å kunne stole på resultatene burde AI-en presentere alle svar som en liste over tydelige sitater med metadata som forfatter og publiseringsdato, og vise det faktiske, uendrede sitatet prominent. Dette i motsetning til dagens praksis der AI-generert tekst dominerer og sitater er vanskelige å finne og verifisere. Videre etterlyses mindre bruk av førstepersonsformuleringer og unødvendige unnskyldninger fra AI-en, da dette skaper en illusjon av bevissthet og reduserer produktiviteten. I stedet for en generell chatbot-interface, burde produkter ha spesifikke brukergrensesnitt for ulike oppgaver, for eksempel en dedikert knapp for å finne sikkerhetshull i kode. Dette ville tillate mer presise interaksjoner og mindre avhengighet av generiske ledetekster (prompts). Selv om LLM-er alltid vil ha en viss grad av tilfeldighet, styrt av «temperatur», kan bedre grensesnitt hjelpe brukeren å forstå og kontrollere denne usikkerheten, og dermed øke påliteligheten i praksis på norske arbeidsplasser.