Allarme pagamenti con l’AI: i 4 rischi che le banche segnalano

L'AI sta automatizzando sempre più le azioni dei consumatori. L'intelligenza artificiale affianca e assiste gli utenti nel fare ricerche, nel dare risposte e, tramite degli agenti appositamente addestrati, può svolgere azioni al posto dell'utente stesso. Di fronte a un contesto che sta cambiando così rapidamente e in modo così profondo, le banche invitano a una riflessione sui rischi per i consumatori. 

I rischi legati alla diffusione degli acquisti fatti tramite agenti AI

L'AI sta già cambiando il modo in cui le persone fanno acquisti e pagano online. Tra chatbot, assistenti digitali e processi d'acquisto messi a punto dall'intelligenza artificiale, l'ecommerce sta evolvendo a un ritmo molto veloce. 

Il 22 settembre sei banche internazionali - ING, Bank of America, Capital One, Commonwealth Bank of Australia, ASB e NatWest Group - hanno presentato un report elaborato congiuntamente che si focalizza sulla necessità di creare fiducia per i consumatori in quello che definiscono "agentic commerce", un sistema d'acquisto in cui gli agenti AI assumono un ruolo sempre più centrale. 

A seconda del grado di autonomia e della sua configurazione, un agente AI può avere il compito di fare ricerche per conto dell'utente, di eseguire l'acquisto a seguito di una preapprovazione oppure di procedere direttamente all'acquisto senza dover chiedere alcun tipo di conferma.

Lo scenario in cui l'agente AI acquista direttamente i prodotti è quello che crea più preoccupazioni negli utenti. Anche se l'agentic commerce può offrire maggiore semplicità e personalizzazione, la crescente autonomia degli agenti pone interrogativi sui temi della sicurezza e del controllo. 

I rischi evidenziati dalle banche relativamente all'uso dell'AI nel mondo del commercio elettronico sono legati a: 

• Problemi nella gestione dei dati e della privacy. Gli agenti si trovano a gestire dati personali e informazioni sensibili come indirizzi, documenti di riconoscimento e credenziali bancarie. Eventuali usi illeciti di questi dati possono rappresentare un problema serio per l'utente;
• Pericoli di frodi o truffe. I consumatori si chiedono cosa potrebbe succedere se l'agente AI rimanesse vittima di una frode o di una truffa, ad esempio acquistando merce contraffatta o finendo su un sito illegittimo;
• Errori o decisioni incoerenti. Potrebbe capitare che un agente AI non segua le istruzioni fornite dal consumatore, finendo con l'acquistare un prodotto sbagliato oppure con lo spendere più di quanto previsto;
• Difficoltà nell'individuazione delle responsabilità. Se qualcosa va storto durante il processo di acquisto, non è sempre facile ricostruire la catena delle responsabilità e capire chi deve rispondere dell'errore tra utente, piattaforma di ecommerce, fornitore dell'agente AI o soggetti coinvolti nelle fasi di pagamento. 

C'è il bisogno di più trasparenza e sicurezza per i consumatori 

Questi rischi, sottolineati dalle banche che hanno elaborato lo studio, fanno emergere il bisogno dei consumatori di muoversi in un ambiente caratterizzato da fiducia e trasparenza. 

Per rispondere a queste esigenze di tutela, le banche hanno definito dei principi su cui lavorare per creare un clima sicuro per i consumatori, in grado di contenere i rischi dell'AI senza rinunciare ai benefici apportati dai suoi progressi. 

I principi chiave individuati sono cinque: 

• Trasparenza. Rendere chiari il ruolo dell'agente AI, i criteri delle sue decisioni, i dati utilizzati e le responsabilità degli operatori coinvolti;
• Sicurezza. Proteggere le transazioni, prevenire le frodi e gestire operazioni sospette, errori e contestazioni;
• Libertà di scelta. Lasciare a consumatori e commercianti la possibilità di scegliere gli agenti e mantenere il controllo sulle transazioni; 
• Privacy e protezione dei dati. Garantire un trattamento sicuro delle informazioni personali e finanziarie, nel rispetto delle autorizzazioni degli utenti;
• Interoperabilità. Favorire la comunicazione tra i diversi sistemi attraverso standard condivisi, evitando ecosistemi chiusi. 

Il ruolo determinante delle banche

In questo nuovo contesto, le banche svolgono un ruolo centrale, sia per la necessità di presidiare il funzionamento dell'infrastruttura dei pagamenti sia per il loro rapporto diretto con i consumatori. 

Come sottolineato nel report, la loro posizione è particolarmente delicata: da un lato devono contribuire a garantire sicurezza, trasparenza e affidabilità delle transazioni, dall'altro devono aiutare gli utenti a comprendere come vengono gestiti i dati, quali operazioni possono essere affidate dagli agenti AI o quali strumenti di controllo e tutela hanno a disposizione. 

Per i consumatori, il fatto di avere servizi finanziari sempre più evoluti e integrati con l'AI rende importante valutare con attenzione le caratteristiche dei prodotti bancari usati. Valutare sicurezza, strumenti di controllo delle operazioni, gestione dei dati e condizioni economiche diventa sempre più determinante nel confronto tra conti correnti o strumenti di pagamento. 

Il confronto tra i prodotti di più banche può essere di grande aiuto nel processo di scelta, soprattutto in un contesto in cui una parte delle operazioni può essere affidata all'intelligenza artificiale.