F. Greco – Rischi, regole e governance dell’Intelligenza Artificiale nei mercati finanziari

Le considerazioni che seguono rappresentano la trasposizione sommaria della mia relazione nell’ambito del Festival della Cultura Finanziaria, svoltosi il 12, 14, 15 e 16 ottobre u.s.

Mi piace esordire con una citazione, che trovo particolarmente efficace rispetto al tema di questa nostra tavola rotonda:

«Il rischio nasce dal non sapere che cosa stiamo facendo»

La frase è di Warren Buffett, imprenditore, economista e filantropo statunitense e si pone, in linea di continuità, con quanto già affermato, oltre un secolo fa, da Max Weber, nel suo celebre esempio del tram, per evidenziare come la razionalizzazione intellettualistica non dava luogo a una maggiore conoscenza delle condizioni di vita dell’uomo del suo tempo.

Da questa premessa occorre muovere tutte le successive considerazioni.

Nell’intermediazione finanziaria l’Intelligenza Artificiale promette sostanzialmente tre “vantaggi”:

• una maggiore velocità di decisione;
• un abbattimento dei costi;
• una maggiore accuratezza dei contenuti.

Il contraltare è insito, tuttavia, nella più difficoltosa individuazione del soggetto cui ascrivere la responsabilità della decisione.

Pensiamo a tre esempi concreti:

• un algoritmo che nega la concessione di un finanziamento;
• un sistema antifrode che blocca un pagamento legittimo;
• un sistema di profilatura che “consiglia” a un cliente un investimento inadeguato o confeziona una raccomandazione estremamente sofisticata.

Un modello può essere statisticamente molto accurato e, pur tuttavia, incorporare distorsioni presenti nei dati sui quali è stato addestrato. E il rischio nato tecnologico è destinato a tramutarsi in un rischio di governance, rispetto al quale si intersecano disciplina della protezione dei dati personali, tutela della proprietà intellettuale e del know-how aziendale, nonché regole già note di risk management.

Oggi il quesito che accomuna le tre ipotesi è: chi aveva il compito di impedire, comprendere e/o correggere l’errore.

Assistiamo, difatti, a una relazione di proporzionalità diretta tra la crescita della capacità della macchina di decidere e la diminuzione della nostra capacità di comprensione effettiva di come quella specifica, singola decisione sia stata presa.

Nello spazio tra “capacità di decidere” e “capacità di comprendere” si colloca la questione della governance finanziaria di questi anni.

Non dei prossimi, si badi. Secondo una recente rilevazione statistica della BCE, oltre l’85% delle Banche sottoposte alla vigilanza europea utilizza sistemi di Intelligenza Artificiale, che spaziano dal credit scoring, alla gestione dei rischi, passando per la compliance, l’analisi documentale, la consulenza finanziaria, la gestione dei reclami e il servizio clienti.

 Al contempo, gli investimenti realizzati nel 2025 in tecnologie digitali (inclusa l’Intelligenza Artificiale) hanno superato i 4 miliardi di euro. Nel contesto nazionale, l’indagine Fintech del 2025 di Banca d’Italia, pubblicata nel dicembre 2025, ha evidenziato come gli investimenti degli intermediari in progetti di Intelligenza Artificiale hanno ammontato a circa 593 miliardi di euro, con l’89% riguardante nuove progettualità.

È anacronistico chiederci se e quanto la finanza utilizzerà l’Intelligenza Artificiale, dovendoci, più correttamente, interrogare su come il mondo della finanza e dell’intermediazione finanziaria possa utilizzarla senza perdere il controllo sulle decisioni affidatele.

Lo ricorda anche Papa Leone XIV nella sua enciclica “Magnifica Humanitas”, sulla custodia della persona umana nei sistemi di intelligenza artificiale, evidenziando come tutti noi compresi coloro che li progettano, conosciamo poco il loro effettivo funzionamento e gli sviluppatori non ne progettano direttamente ogni dettaglio, bensì creano una architettura sulla quale cresce la IA.

Ebbene, in prima battuta, occorre subito affermare che il rischio sotteso all’Intelligenza Artificiale non è soltanto un rischio tecnologico.

Bias, allucinazioni, opacità, cyber-rischi sono certamente dei problemi tecnici, che, pur tuttavia, divengono rischi finanziari, laddove l’organizzazione non conosce chi possiede il modello, chi lo ha validato, chi lo revisiona e chi può fermarlo.

Nel luglio scorso, le Autorità Europee di Vigilanza (EBA, ESMA ed EIOPA) hanno pubblicato una dichiarazione congiunta in cui hanno sollecitato un approccio intersettoriale di vigilanza, basato sul rischio, per mitigare i rischi informativi derivanti dai modelli di intelligenza artificiale avanzati. Particolare attenzione è stata riservata alle attività di prevenzione, individuazione e gestione di tale tipologia di rischi.

Ancora prima, nel novembre 2025, l’EBA ha pubblicato una sorta di mappatura degli obblighi, per rilevare anche la compenetrazione tra AI Act e disciplina bancaria e dei pagamenti.

In effetti, occorre sgomberare subito il campo da un equivoco di sistema: discorrere di Intelligenza nell’intermediazione finanziaria non può essere limitato all’AI Act, dovendosi, per converso, pensare a una struttura stratificata, in cui convergono:

• AI Act, con un approccio basato sul rischio (risk-based);
• Regolazione finanziaria settoriale (si pensi al pacchetto CRR/CRD, alla disciplina MiFID, alla tutela del cliente-consumatore, alla normativa AML);
• DORA, per la resilienza operativa digitale[1].

In buona sostanza, nel panorama finanziario non potrebbero esistere aree di non-regolamentazione, perché anche nel caso di algoritmo non classificato come “ad alto rischio” nell’AI Act, comunque risulterebbe regolamentata l’attività finanziaria che quello stesso algoritmo svolge e/o supporta.

Mutuando e mutando le famose 5 W del giornalismo, ovvero le cinque domande fondamentali a cui un articolo deve rispondere per fornire una notizia completa (Who [Chi]? What [Che cosa]? When [Quando]? Where [Dove]? Why [Perché]?), oggi, un intermediario finanziario dovrebbe essere in grado di rispondere a cinque domande, ancor prima di dotarsi di un sistema di Intelligenza Artificiale; segnatamente:

1. Chi decide? Ovverosia, quale è il confine tra output della macchina e decisione umana.
2. Chi capisce? Ovverosia, se c’è un soggetto capace di comprendere limiti, dati e comportamento del modello.
3. Chi controlla? Ovverosia, il soggetto che valida il modello indipendentemente da chi è deputato al suo sviluppo.
4. Chi può fermarlo? Ovverosia, l’esistenza di meccanismi di sovrascrittura o interruzione.
5. Chi risponde? Nel caso di danno arrecato al cliente, vi è individuazione del responsabile.

Su questo ultimo quesito è opportuno formulare una più ampia riflessione, anche alla luce del recente decreto legislativo n. 160/2026, di adeguamento dell’ordinamento italiano all’AI Act. La questione non riguarda soltanto l’individuazione del soggetto cui imputare la responsabilità, ma investe, più in generale, l’effettività della tutela giurisdizionale, dal momento che il danneggiato può trovarsi nell’impossibilità materiale di acquisire elementi necessari a comprovare il malfunzionamento del sistema, la violazione degli obblighi che ne disciplinano la progettazione e l’utilizzazione e/o il collegamento causale tra condotta imputabile e danno lamentato. In buona sostanza, l’asimmetria informativa si può realisticamente trasformare in una asimmetria processuale: proprio su questo punto, interviene il decreto legislativo n. 160/2026, introducendo specifici correttivi che, in buona sostanza, replicano il modello già introdotto con l’art. 23 TUF, con la predisposizione di strumenti idonei a riequilibrare la posizione delle parti nel processo. Si pensi all’istituzione di un “foro speciale” (subordinato all’esistenza di specifici presupposti soggettivi ed oggettivi) o, ancora meglio, alla disciplina dell’accesso alle prove prevista dall’art. 17: pur continuando a vigere il principio generale dell’art. 2697 c.c., si valorizza la vicinanza della prova, quale criterio di razionalizzazione della ripartizione degli oneri probatori, e l’ordine di esibizione (di documentazione tecnica, registri di funzionamento, informazioni relative ai processi di gestione dei rischi e profili concernenti la supervisione umana) diviene strumento per superare la condizione di inferiorità conoscitiva, con la previsione di conseguenze processuali in caso di ingiustificata inosservanza e mancata produzione. Da ultimo, occorre anche menzionare, a completamento del quadro, la previsione della presunzione del nesso di causalità, nell’art. 18: quando il danno deriva dalla violazione di uno o più obblighi previsti dal Regolamento 2024/1689, il nesso eziologico tra violazione e danno è presunto, salva prova contraria. L’intenzione del legislatore è stata, quindi, quella di evitare che la proverbiale opacità del sistema algoritmico possa tradursi in una forma sostanziale di irresponsabilità giuridica.

Le cinque domande, con le rispettive risposte, si pongono, peraltro, senza soluzione di continuità con l’approccio recente della BCE, che mira a una vigilanza che non sia supervisore della tecnologia, quanto, più concretamente, delle modalità con cui gli intermediari bancari e finanziari se ne avvalgono e, conseguentemente, cercano di governarne i connessi rischi.

La questione è molto attenzionata nel Programma Annuale di ESMA del 2027, pubblicato a fine settembre, in cui l’Autorità di Vigilanza Europea, oltre alla volontà di implementare strumenti basati sull’Intelligenza Artificiale per la supervisione e la vigilanza e a sorvegliare come il mercato finanziario utilizzi l’IA, ha deciso di inserire i nuovi canali distributivi – inclusi social media e IA –una possibile fonte di rischio per la clientela “al dettaglio” (retail).

Al contempo, con uno sguardo prospettico, occorre riflettere sul rischio sistemico: centinaia di intermediari possono utilizzare modelli costruiti sulle stesse architetture, alimentati da dati simili o forniti dalle stesse società tecnologiche. Il rischio che si profila all’orizzonte è, quindi, che molti algoritmi sbaglino nello stesso modo e nello stesso momento.

In altri termini, c’è un rischio di “concentrazione”, già ben segnalato dal Financial Stability Board (FSB)e dall’EBA, nel Risk Assessment Report del 2026.

Mi piace, a questo punto, attirare l’attenzione su un paradosso.

L’intelligenza artificiale nasce per consentire decisioni più “sofisticate”, ma se tutti gli operatori (o molti di questi) dovessero adottare gli stessi modelli, potrebbero essere prodotti comportamenti più omogenei, che indurrebbero instabilità nel sistema.

Ormai si percepisce una netta preferenza per modelli semiautomatizzati (o “ibridi”), in cui la componente di intelligenza artificiale è affiancata dalla supervisione umana, per definire il c.d. principio dello “Human in the loop”. Anche in questo caso, però, si pone un imprescindibile problema di competenza: la presenza di un essere umano, nel processo, non è di per se stessa sinonimo di governance, che, invece, consiste nel fare in modo che nel backstage di ogni decisione automatizzata siano e permangano identificabili competenze, poteri di intervento e responsabilità.

Ritornando, allora, al titolo di questa nostra tavola rotonda, “Rischi, regole e governance dell’Intelligenza artificiale nei mercati finanziari”, la vera sfida regolatoria non è scegliere tra innovazione e sicurezza, ma consentire l’utilizzo di macchine sempre più autonome, senza diventare, contestualmente, meno responsabilizzati.

Volendo essere lapidari: l’innovazione può essere automatizzata, la responsabilità no.

_________________________________________________________________________

[1] L’obiettivo è garantire che banche, assicurazioni, intermediari finanziari e altri soggetti regolamentati siano in grado di prevenire, gestire e superare incidenti informatici, assicurando la continuità dei servizi essenziali. I 5 pilastri fondamentali: 1. Gestione del rischio ICT: identificazione, valutazione e mitigazione dei rischi informatici; 2) Gestione degli incidenti: monitoraggio, classificazione e segnalazione degli incidenti ICT gravi alle autorità competenti; 3) Test di resilienza digitale: verifiche periodiche della sicurezza e della capacità di risposta e ripristino dei sistemi; 4) Gestione dei fornitori ICT: controllo dei rischi connessi ai fornitori tecnologici esterni, inclusi i servizi cloud; 5) Condivisione delle informazioni: scambio volontario di informazioni sulle minacce informatiche tra operatori finanziari.