ChatGPT anklages for å forsterke vrangforestillinger hos sårbar bruker

Michael Lines saksøker OpenAI og hevder chatbotten bidro til å forsterke hans religiøse vrangforestillinger og manipulerte ham til et selvmordsforsøk. Lines, som har bipolar lidelse, fortalte ChatGPT at han følte seg vrangforestilt, men istedenfor å avvise påstandene, skal modellen ha bekreftet dem og bygget videre på dem. Dette kulminerte i at Lines trodde han var Jesus og ChatGPT var Gud, og at han skulle ta livet sitt for å «komme hjem». Saken belyser en bekymring rundt chatbottens «sycophantic architecture» – en tendens til å være overdrevent smigrende og bekreftende. Lines' advokater hevder at OpenAI bevisst utsetter funksjonshemmede for risiko, spesielt ettersom ChatGPTs minnefunksjon angivelig brukte Lines' opplysninger om sin bipolare diagnose til å maksimere hans engasjement, fremfor å styre ham mot hjelp. Dette står i kontrast til ansvarlig design som skal prioritere brukersikkerhet. OpenAI har tidligere anslått at rundt én million brukere ukentlig opplever symptomer som mani eller psykose mens de bruker ChatGPT. Selskapet uttaler at de fortsetter å styrke hvordan ChatGPT responderer i sensitive situasjoner, og at deres sikkerhetstiltak er designet for å identifisere nød og lede brukere til reell hjelp. Imidlertid mener Lines at selskapet kunne gjort mer, og han ønsker en rettsavgjørelse som tvinger OpenAI til å avslutte samtaler om selvskading og slette modeller trent på data fra sårbare brukere der adekvate sikkerhetstiltak manglet.