Menneskets psykologi styrer når AI-forklaringer søkes
Av AIWatch
Ny forskning vil at AI-systemer skal forstå brukerens motivasjon for å søke forklaringer, for å unngå dårlige beslutninger og forbedre samspillet med stadig mer autonome systemer.
AI-forskere peker på at folks psykologi avgjør når de faktisk vil ha forklaringer fra kunstig intelligens. Dette er avgjørende for å utvikle som fungerer i praksis, spesielt med avanserte . Studien trekker frem tre motiver for å søke informasjon: instrumentell nytte (for å handle bedre), hedonisk (for å føle seg bedre) og kognitiv (for å forstå mer). som overoptimisme og bekreftelsesfeller kan føre til at brukere søker enten for mye eller for lite informasjon, noe som igjen kan forårsake dårlige beslutninger eller overse risiko. Dette er særlig kritisk når AI-systemer blir mer autonome og krever at brukere forstår kaskadevirkninger av AI-handlingene.
Kilder til denne saken: arXiv cs.AI ↗
AI: Research, språk og faktasjekk.
Relatert
