Advokat bøtelagt 50 000 kr etter ChatGPT-hallusinasjoner i rettsdokument

En advokat i New Mexico er ilagt en bot på 5 000 dollar, tilsvarende rundt 50 000 norske kroner, og er innklaget til disiplinærutvalget etter å ha brukt ChatGPT til å skrive et rettsdokument fylt med falske vitneutsagn og feilaktige sitater. Advokaten, Stephen Aarons, matet rettsutskrifter og saksdokumenter inn i språkmodellen, som deretter hallusinerte — altså fant opp og presenterte som fakta — en rekke detaljer. Dette har fått store konsekvenser for advokatens klient, Oscar Renee Sandoval, som soner en livstidsdom for drap og nå må vente enda lenger på sin ankesak. Domstolen avviste Aarons’ innlevering og beordret ny advokat, og påpekte at Aarons hadde brutt flere profesjonelle retningslinjer ved ikke å verifisere innholdet og ved ikke å informere klienten om problemene. Aarons hevdet å være uvitende om at AI kunne «hallusinere fakta», og sa han brukte en versjon av ChatGPT basert på OpenAI o3-modellen fra 2025 i den tro at den ville levere et «skuddsikkert sammendrag». Dommerne responderte med sterk kritikk, og sammenlignet det med å signere et dokument skrevet av en upålitelig kollega uten å sjekke arbeidet. Saken viser at verktøy som ChatGPT kan bidra til feilinformasjon, selv med relativt nye modeller som OpenAI o3, om ikke brukt med stor forsiktighet og grundig faktasjekk.