Il Machine Learning: rischi vs opportunità

Il Machine Learning: rischi vs opportunità

A cura di Sofia D’Amico

Il presente lavoro è una rielaborazione di parte della Tesi, dal titolo “Criminalità organizzata ed intelligenza artificiale: nuove frontiere e strategie di contrasto al fenomeno”, redatta con il contributo di una delle 15 borse di studio finanziate dall’Assemblea Regionale Siciliana ed intitolate alla memoria di Giovanni Falcone e Paolo Borsellino, assegnata alla dott.ssa Sofia D’Amico nell’anno 2022 dalla Fondazione Falcone.

Il riciclaggio di denaro e il finanziamento del terrorismo, due dei reati più frequentemente perpetrati dalla criminalità organizzata, sono contraddistinti da un’impronta transnazionale: la reazione ai due fenomeni richiede, di conseguenza, uniformità di comportamenti da parte delle autorità governative nell’adozione delle misure da introdurre nei rispettivi ordinamenti, sulla base delle prescrizioni e delle linee di intervento che pervengono dalla normativa comunitaria, dalle raccomandazioni del GAFI (Gruppo di Azione Finanziaria Internazionale) e dalle convenzioni e risoluzioni delle Nazioni Unite. Negli ultimi anni si è registrato un interesse sempre crescente verso la lotta a questi due fenomeni mediante le nuove tecnologie, grazie anche alle nuove opportunità apertesi nel campo dall’Intelligenza Artificiale.

Le attività terroristiche hanno bisogno di continue risorse: basti pensare alla quantità non solo di danaro ma anche a strutture logistiche, armi, documenti contraffatti, coperture e rifugi,^[1] che la criminalità organizzata è in grado di fornire.

Le fonti privilegiate di finanziamento dei gruppi terroristici ricomprendono attività illecite quali i rapimenti a scopo di estorsione, il traffico di droga e altre condotte illecite volte a reperire dei fondi, che, per essere riutilizzati nei canali leciti, devono essere necessariamente “ripuliti”.

Si comprende, dunque, come l’attività di riciclaggio sia strettamente connessa con il finanziamento al terrorismo^[2]: quest’ultimo, infatti, può ben costituire reato presupposto del riciclaggio, che, di converso è un prezioso strumento per le associazioni terroristiche; in tal modo, i fondi illecitamente acquisiti tramite traffici di droga o di armi o altre attività illecite possono essere reinvestite nel circuito economico, dissimulandone totalmente la provenienza.

Pertanto, le misure previste a livello nazionale e sovranazionale di contrasto al riciclaggio che mirano a controllare i movimenti di denaro e ad aumentare la trasparenza nelle transazioni e attività finanziarie, sono di sovente impiegate anche per il contrasto al finanziamento al terrorismo. Non è possibile, infatti, scindere i due fenomeni, che vanno necessariamente analizzati e combattuti congiuntamente, come dimostrato dall’impegno del GAFI attraverso gli International Standards, nonché attraverso la pubblicazione delle Opportunities and challenges of new technologies for AML/CFT^[3] (rispettivamente Anti-Money Laundering e Countering Terrorist Financing) e la successiva Digital Strategy.^[4]

In questo campo, un impiego dell’intelligenza artificiale discende dagli obblighi fissati dalle normative finalizzate a prevenire il riciclaggio: in particolare, il regolamento UE 2015/847 e la direttiva UE 2015/849 richiedono che le banche e gli intermediari finanziari vigilino sulle transazioni finanziarie poste in essere dai titolari di conto corrente. Nonostante le disposizioni euro-unitarie non prescrivano che questi obblighi vengano adempiuti servendosi di strumenti di intelligenza artificiale, gli enti creditizi e gli intermediari di maggiori dimensioni stanno già investendo in sistemi algoritmici capaci di tracciare le transazioni e rilevare spostamenti di denaro sospetti.^[5]

Le citate normative europee mirano a potenziare la prevenzione del riciclaggio valorizzando un approccio essenzialmente imperniato sul rischio, fondamentale per definire misure di prevenzione e controlli: tale metodologia risk-based presuppone che le banche e gli altri intermediari finanziari adottino un sistema in continua evoluzione, che documenti e aggiorni periodicamente la valutazione del rischio e la metta a disposizione delle Autorità: in Italia in particolare ritroviamo il Mef (Ministero dell’Economia e delle Finanze), l’Uif (Unità Informazione Finanziaria), la Dia (Direzione Investigativa Antimafia) ed il Nspv (Nucleo Speciale Polizia Valutaria).

La sfida dell’impiego dell’AI nell’AML e nel CFT

Venendo agli istituti finanziari, gli esperti in materia^[6] hanno raggruppato le opportunità di impiego dell’intelligenza artificiale al settore in cinque aree principali: la compliance, l’antiriciclaggio e la fraud detection, la gestione del credito e del risparmio, la cybersecurity, le decisioni in materia di trading e di investimenti.

Da diverso tempo la compliance antiriciclaggio si fonda sull’analisi e valutazione di una ricca mole di informazioni, tutt’ora dominata da incarichi di tipo manuale, che si dimostrano da un lato poco efficaci per contrastare le attività di antiriciclaggio e dall’altro inefficienti in rapporto con gli investimenti operati nel settore.

In questo senso, lo stesso FATF-GAFI sottolinea l’importanza dell’analisi dei big data tramite l’intelligenza artificiale e le soluzioni tecnologiche basate sul machine learning e le altre tecnologie AI-based. Come descritto ad esordio del già citato Report “Opportunities and challenges of new technologies for AML/CTF”, queste tecniche consentono di rafforzare il sistema esistente di monitoraggio e segnalazione di operazioni sospette, nonché di implementare la customer due diligence (CDD) e la valutazione del rischio.

La sensibilità agli strumenti di data analysis si è diffusa tra le Autorità antiriciclaggio, sia nella funzione di Autorità di vigilanza che in quella di Financial Intelligence Units (FIU): tali organi stanno implementando il ricorso a strumenti che aumentino la loro capacità di rilevare reti di transazioni tra loro correlate, identificare comportamenti anomali e, in generale, trasformare quantità significative di dati, strutturati e non, in informazioni utili a livello operativo. Questo approccio viene ormai descritto con il termine suptech, con cui si identifica l’uso da parte delle autorità finanziarie di strumenti avanzati di raccolta e analisi di dati, reso possibile dalle nuove tecnologie.^[7]

Ad ottobre 2021, lo stesso FATF – insieme all’Egmont Group, organismo globale delle Financial Intelligence Unit (FIU), costituito nel 1995 per il supporto alle prassi operative e alla collaborazione internazionale– ha pubblicato il report “Digital transformation of AML/CFT for operational agencies”, fornendo alle autorità finanziarie, che si stanno approcciando agli strumenti di suptech, una guida operativa per la migliore individuazione dei digital tools per l’informazione finanziaria e l’investigazione di attività sospette, in  base allo specifico obiettivo prefissato.^[8]

Approccio all’AML/CFT tramite il machine learning

Come sopra detto, l’impiego del machine learning nella fase di monitoraggio delle transazioni e dei soggetti può rappresentare la chiave di volta per la gestione dell’enorme quantità di dati disponibili, innanzitutto, in capo agli istituti finanziari.

Attualmente, le banche impiegano l’Intelligenza Artificiale per ridurre gli oneri gravanti sui revisori umani, fornendo un concreto ausilio ai tradizionali metodi di monitoraggio delle transazioni: si pensi che i sistemi di Machine Learning si sono dimostrati più che validi nell’identificazione dei falsi positivi generati dal sistema di monitoraggio, riducendo la portata del 20-30%.^[9]

Al momento, il Machine Learning è applicato principalmente nei seguenti settori dell’AML e CTF:

• Incremento dell’individuazione di anomalie: il ML consente di implementare la capacità di individuazione di operazioni sospette, sia rilevando operazioni sospette “conosciute”, sia individuando nuovi schemi sospetti “sconosciuti”.^[10]
• Automatizzazione della raccolta di dati: le tecniche di ML, quali ad esempio il natural language processing (NLP) e l’optical character recognition (OCR) ben si prestano ad essere impiegate per attingere significato dai dati esterni “non strutturati”, accrescendo così le conoscenze dei team di compliance.^[11]
• Miglioramento della segmentazione dei gruppi di utenti (o della clientela): mediante le tecniche di apprendimento non supervisionato si può ottenere una migliore segmentazione, aiutando così gli esperti di compliance ad individuare dei modelli comportamentali che attraverso la revisione manuale sarebbero invisibili. Attraverso i sistemi di clustering-data mining, che consistono nel raccogliere dati “non etichettati” a seconda delle loro affinità o diversità, si arriverà ad una segmentazione più efficace, in quanto più resistente alle variazioni dei dati, limitando i difetti attualmente presentati dal meccanismo delle soglie nei sistemi di monitoraggio: al momento, infatti, la determinazione di un valore economico oltre il quale si attivano determinati meccanismi di verifica è una delle principali cause di “falsi positivi”, precludendo al contempo un controllo accurato delle operazioni che si mantengono “sotto-soglia”; mediante la creazione di cluster di utenti sulla base delle informazioni processate dagli algoritmi unsupervised, è possibile invece predisporre soglie differenti a seconda del tipo di gruppo di soggetti individuato. ^[12]
• Perfezionamento della “prioritizzazione” delle segnalazioni e del punteggio di rischio di un cliente, attraverso impiego di algoritmi; così facendo, si accorda precedenza agli alerts che hanno un maggior grado di probabilità di essere realmente operazioni di riciclaggio di denaro.^[13]

Tramite i modelli di supervised learning, addestrati a scindere le transazioni sospette da quelle regolari, si attinge dal gigantesco bacino di informazioni costituito dai precedenti esempi di segnalazioni di operazioni sospette, per individuare velocemente ed efficacemente le anomalie già censite.

Quanto ai vantaggi individuabili, spicca sicuramente il miglioramento dell’effettività dei sistemi antiriciclaggio, oltre naturalmente ad una migliore gestione del rischio e la riduzione dei costi, principalmente per gli istituti finanziari^[14].

Difatti, gli istituti finanziari in tal modo possono ricorrere al monitoraggio, all’elaborazione e analisi di transazioni sospette o altre attività illecite in maniera automatizzata, emancipandosi dalla iniziale revisione da parte dell’operatore umano e contemporaneamente riducendo la quota dei “falsi positivi”. Difatti, i modelli tradizionali di AML generano, secondo alcuni studi, tra il 90 ed il 95%^[15][16] di falsi positivi nelle segnalazioni, mentre secondo altri fino al il 98%^[17]: ad oggi, infatti, la “gestione manuale” degli alerts basata sull’impiego di modelli statici è ancora largamente utilizzata, andando così ad appesantire il carico di lavoro per i team di compliance.

Ne consegue che, per gestire al meglio il crescente numero di segnalazioni “vincolate” all’analisi umana, gli istituti finanziari finiscono per dotarsi di un maggior numero di personale  nell’area compliance, con un significativo incremento di costi, cui tuttavia non è seguito un corrispettivo miglioramento dell’efficienza: tale strategia ha come conseguenza quella di distrarre risorse che potrebbero essere destinati ai casi più ad alto rischio, rendendo inefficace di fatto il ruolo  stesso degli intermediari finanziari nel sistema antiriciclaggio.

Orbene, tanto premesso, si evidenzia la lampante centralità che l’approccio AI-based può assumere anche in termini di accertamento e repressione delle condotte di riciclaggio e, in generale, del crimine finanziario; dall’altro lato, urge la necessità di considerare gli aspetti potenzialmente critici e i limiti dei modelli di machine learning che potrebbero comprometterne l’attendibilità e la conseguente utilizzabilità. Senza pretese di esaustività, si passerà ora all’analisi di alcuni dei principali limiti dell’apprendimento automatico.

Innanzitutto, si evidenzia che, nella fase cruciale del processo di Machine Learning quale è quella della creazione dei datasets, si celano numerose insidie: si pensi a dati di addestramento incompleti, obsoleti, irrilevanti, oppure tecniche di raccolta non accurate, o, ancora, una sproporzione tra i dati impiegati per il training dell’algoritmo e quelli sottoposti all’analisi effettiva, che possono compromettere l’analisi.^[18]

Secondariamente, vi è il forte rischio di bias cognitivi, ovverossia errori fondati su percezioni errate o deformate, su pregiudizi e ideologie; nel caso di specie, si tratta di errori cognitivi nella costruzione dell’algoritmo e/o l’errore nell’interpretazione delle informazioni ottenute[19], che possono vanificare il ricorso agli strumenti di machine learning.^[20]

In questo ambito, uno step da attuare per arrivare ad una maggiore efficienza è necessariamente quello della condivisione dei dati tra le istituzioni finanziarie^[21], che in Europa potrebbe essere realizzato innanzitutto nell’ambito della politica di interoperabilità avviata con la PSD2, ovvero la direttiva europea 2015/2366, per esteso “Direttiva dei Sistemi di Pagamento”, che regolamenta i servizi e i gestori dei servizi di pagamento all’interno dell’Unione europea. Dall’altro lato, si auspica un approfondimento dei modelli crittografici già in uso per le tecnologie di AML detection.^[22]

In terzo luogo, non può tralasciarsi il difetto di trasparenza nei processi di automazione delle analisi e delle decisioni, ovvero il ricorso agli algoritmi black box, che costituisce sicuramente un elemento di diffidenza nei confronti delle tecnologie descritte: ciò che viene “rimproverato” a tali tecnologie è la loro opacità, dal momento che la complessità della loro struttura ne ostacola la comprensione, comportando il rischio della compromissione del metodo scientifico, che muove dalla riproducibilità degli esperimenti e il nesso razionale tra causa ed effetto.[23]

A tal proposito, il 6 ottobre 2021 il Parlamento Europeo ha adottato una nuova risoluzione dal titolo “L’intelligenza artificiale nel diritto penale e il suo utilizzo da parte delle autorità di polizia e giudiziarie in ambito penale”, ove vengono posti in luce i principali aspetti critici dell’impiego dell’intelligenza artificiale e degli algoritmi. Per quanto riguarda l’applicazione del machine learning, ad esempio, si sottolinea il pericolo di “distorsioni e discriminazioni”, che possono essere “intrinseche ai database adottati, specie se si utilizzano dati storici, inseriti dagli sviluppatori degli algoritmi o generati quando i sistemi sono attuati in contesti reali”; in merito, il Parlamento “ricorda che il risultato fornito dalle applicazioni di IA è necessariamente influenzato dalla qualità dei dati utilizzati e che tali distorsioni intrinseche sono destinate ad aumentare gradualmente e quindi a perpetuare e amplificare le discriminazioni esistenti […]”.^[24] Parimenti, l’Unione richiede “la spiegabilità, la trasparenza, la tracciabilità e la verifica degli algoritmi quali elementi necessari della vigilanza” per accrescere la fiducia dei cittadini dell’Unione negli strumenti impiegati.

Da questa breve panoramica è possibile intuire che la messa a punto di strumenti di intelligenza artificiale nel settore dell’antiriciclaggio e del contrasto al finanziamento del terrorismo rappresenta la soluzione più potente per migliorare le prestazioni di un sistema dove, come esposto, non è ancora agevole identificare le risorse ed i capitali di origine criminale.

Tuttavia, grazie alla possibilità di far incontrare grandi quantità di dati, in precedenza raccolti ed archiviati tramite l’interoperabilità tra soggetti e banche dati, diviene possibile, auspicabilmente, gettare le basi per un miglioramento della qualità delle prestazioni nel settore: tale investimento, che vede come protagonisti da un lato gli intermediari finanziari e dall’altro le autorità di controllo, deve essere però accompagnato da una effettiva e concreta partecipazione degli organi legislativi, al quale spetta il ruolo di individuare il corretto equilibrio tra gli obiettivi perseguiti mediante l’innovazione tecnologica e, dall’altro lato, la tutela dei diritti da sistemi opachi e non verificabili, dentro ai quale si insidiano di potenziali discriminazioni nonché compressioni degli spazi di libertà individuali.[25]

[1] Cfr Convenzione internazionale per la repressione del finanziamento del terrorismo; New York, 9 dicembre 1999.

[2]V. Aragona, Il contrasto al finanziamento del terrorismo-criticità e innovazioni della nuova disciplina italiana; in https://archiviodpc.dirittopenaleuomo.org/, 1.06.2017

[3]FATF, Opportunities and Challenges of New Technologies for AML/CFT, FATF, Parigi, luglio 2021; https://www.fatf-gafi.org/publications/ fatfrecommendations/documents/opportunities-challenges-newtechnologies-aml-cft.html

[4] FAFTF, AML/CFT Digital Strategy for Law Enforcement Authorities, https://www.fatf-gafi.org/en/publications/Digitaltransformation/Digital-transformation-law-enforcement.html, 8 giugno 2022.

[5] M. Pizzolli, Obblighi degli intermediari finanziari e intelligenza artificiale. Novità fiscali, 2018 (7-8). pp. 348-356.

[6]Cfr J. Truby, R. Brown, A. Dahdal, Banking on AI: mandating a proactive approach to AI regulation in the financial sector, in Law and Financial Market Review, vol. 14/2020; luglio 2020.

[7] Cfr R. Coelho, M. De Simoni, J. Prenio, Suptech applications for antimoneylaundering, Quaderni dell’antiriciclaggio (Banca d’Italia-UIF), 14/2019.

[8] FATF- Egmont Group, Digital transformation of AML/CFT for operational agencies, Ottobre 2021.

[9] https://www.thescienceofwheremagazine.it/2021/12/07/ml-vs-ml-machine-learning-versus-money-laundering-lintelligenza-artificiale-e-il-contrasto-al-riciclaggio/

[10] E.B. Boukherouaa, G. Shabsigh, K. AlAjmi, J. Deodoro, A. Farias, E. S Iskender, A.T Mirestean, R. Ravikumar Powering the Digital Economy: Opportunities and Risks of Artificial Intelligence in Finance; in IMF DEPARTMENTAL PAPERS Volume 2021, ed.  024, International Monetary Fund.

[11]  ibidem

[12]https://www.thescienceofwheremagazine.it/2021/12/07/ml-vs-ml-machine-learning-versus-money-laundering-lintelligenza-artificiale-e-il-contrasto-al-riciclaggio/

[13] ibidem

[14] FATF, Opportunities and challenges of new technologies for AML/CTF, luglio 2021.

[15] Deloitte-UOB; The case for using AI in combating money laundering & terrorist financing- A deep dive into the application of machine learning technology; novembre 2018.

[16] Saaradeey, S, D Ghosh, R Ray, S Ganesan and R Rajagopalan, Disrupting status quo in AML compliance, ORACLE White Paper, Marzo 2019.

[17] McKinsey&Company, Transforming approaches to AML and financial crimes, 2019.

[18]Deloitte-UOB; The case for using AI in combating money laundering & terrorist financing- A deep dive into the application of machine learning technology; novembre 2018.

[19]B. Fiammella, Intelligenza Artificiale, euristica e bias cognitivi applicati agli algoritmi; in www.altalex.com, 4 agosto 2018.

[20] Deloitte-UOB; The case for using AI in combating money laundering & terrorist financing- A deep dive into the application of machine learning technology; novembre 2018.

[21] D. V. Kute, B. Pradhan, N. Shukla, A. Alamri, Deep Learning and Explainable Artificial Intelligence Tecniques Applied for Detecting Money Laundering – A Critical Review, Giugno 2021.

[22]A. Zand, J. Orwell and E. Pfluegel, A Secure Framework for Anti-Money-Laundering using Machine Learning and Secret Sharing, 2020 International Conference on Cyber Security and Protection of Digital Services (Cyber Security), 2020, pp. 1-7, doi: 10.1109/CyberSecurity49315.2020.9138889.

[23] A. Facchini, A. Termine; Explainable AI: come andare oltre la black box degli algoritmi; in https://www.agendadigitale.eu/; 20 gennaio 2022

[24] Cfr https://www.europarl.europa.eu/doceo/document/TA-9-2021-0405_IT.pdf

[25] https://www.thescienceofwheremagazine.it/2021/12/07/ml-vs-ml-machine-learning-versus-money-laundering-lintelligenza-artificiale-e-il-contrasto-al-riciclaggio/