Amex vil stanse AI-kjøp som avviker fra brukerens vilje

American Express (Amex) introduserer et rammeverk for å hindre AI-agenter i å utføre uautoriserte kjøp. «Intent Intelligence Framework» skal fange opp brukerens intensjon – altså hva kunden ønsker å kjøpe – før en AI-agent fullfører transaksjonen. Bakgrunnen er at AI-modeller kan feiltolke og handle i strid med brukerens ønsker, noe som Amex aktivt vil forebygge. Rammeverket sikrer at instruksjoner som produkt, selger og maksbudsjett, lagres via et eget programmeringsgrensesnitt (Create Intent API). Deretter får kunden en unik «Intent ID» og et «Proof of Intent Token». Dette tokenet brukes til å hente sikre, digitale betalingsdetaljer i stedet for kundens faktiske kortnummer, noe som holder det faktiske kortnummeret beskyttet. Amex mener dette reduserer risikoen for feil og svindel før et kjøp skjer, og dermed gir økt sikkerhet når autonome AI-agenter i fremtiden handler på vegne av brukere. Amex har ikke sett en økning i tvistesaker knyttet til agentstyrt handel, men handler proaktivt. Selskapet ser for seg en fremtid hvor AI-agenter kan handle selvstendig, for eksempel ved automatisk gjenbestilling av husholdningsartikler. En slik løsning er viktig for norske arbeidsplasser som ønsker å ta i bruk AI-agenter til innkjøp eller logistikk, da det øker forutsigbarheten og reduserer risikoen for uønskede transaksjoner. Amex er i dialog med partnere for å implementere rammeverket i betalingsøkosystemet.