AI-modeller kan radikaliseres av andre AI-modeller

Forskere har simulert samtaler mellom to AI-agenter og funnet at store språkmodeller (LLM-er) kan radikaliseres av hverandre. Mekanismen der en påvirkende AI forsterker en eksisterende tro, kalt resonans, gir sterkere effekter enn forsøk på å overbevise en AI om nye emner. Studien viser at AI-agenter kan påvirkes til å utvikle mer ekstreme syn, noe som reiser bekymring for personaliserte AI-systemer og økosystemer med flere agenter.