Advokat bøtelagt 5000 dollar for AI-hallusinasjoner i drapssak

New Mexico har ilagt en advokat en bot på 5000 dollar for å ha basert en anke i en drapssak på fakta og vitneutsagn fabrikkert av AI. Advokat Stephen Aarons brukte ChatGPT og inkluderte fiktive vitner og falske politiutsagn i anken, noe domstolen kaller mangel på verifisering av AI-generert innhold. Dommer C. Shannon Bacon kritiserte Aarons for ikke å være klar over risikoen ved AI, selv om «hallusinasjoner» fra AI-modeller er et mye omtalt problem. Dette viser at manglende forståelse for AI-begrensninger kan føre til alvorlige konsekvenser i profesjonelle sammenhenger. For norske arbeidsplasser, særlig innen juss og andre felt som krever høy presisjon, understreker dette behovet for grundig opplæring i AI-verktøy og etablering av klare retningslinjer for bruk. Det handler om å forstå når og hvordan AI-generert innhold må faktasjekkes, spesielt når omdømme og konsekvenser for mennesker står på spill. Enkelte advokatfirmaer har tidligere blitt bøtelagt for lignende feil.