USA lanserer chatbot for myndighetstjenester – bruker Gemini og Grok

President Donald Trump har annonsert lanseringen av America.gov, en ny AI-chatbot for å veilede borgere til myndighetstjenester og informasjon. Både Googles Gemini og Grok-modellen fra xAI brukes i løsningen. Formålet er å erstatte den «endeløse labyrinten av titusenvis av myndigheters nettsteder og regler» med én inngangsport. Men selv om målet er å forenkle, er store språkmodeller ikke feilfrie og kan hallusinere, det vil si generere feilaktig informasjon. For feil i kritisk informasjon, som søknader om matkuponger eller visumfornyelser, kan konsekvensene for innbyggerne bli alvorlige. Tidligere har hallusinasjoner fra AI ført til at det amerikanske militæret nesten utførte en væpnet operasjon basert på feilinformasjon.