La governance del dato nei sistemi di intelligenza artificiale

L’uso di sistemi di intelligenza artificiale nei processi bancari – dalla valutazione del merito creditizio ai presìdi antiriciclaggio, dal monitoraggio dei rischi di frode informatica ai servizi alla clientela – impone agli intermediari di affrontare un tema che precede la stessa scelta tecnologica: la governance del dato.

Di questo tema se ne discuterà ampiamente nel corso della prima relazione – nonché nella tavola rotonda a seguire – del webinar organizzato dalla nostra Rivista per il giorno 17 settembre 2026 “La governance dell’Intelligenza Artificiale – Problematiche implementative e scelte strategiche, fra data governance, organizzazione interna e gestione dei rischi“.

L’efficacia di un sistema di IA, infatti, dipende innanzitutto dalla qualità delle informazioni sulle quali viene sviluppato, addestrato e successivamente alimentato durante il suo utilizzo operativo. Un modello costruito su dati incompleti, inesatti, non rappresentativi oppure non adeguatamente governati è destinato a produrre risultati inattendibili, con conseguenze che possono riflettersi non soltanto sull’efficienza operativa, ma anche sulla conformità normativa, sulla gestione dei rischi e sulla tutela della clientela.

Per gli operatori bancari, la governance del dato deve pertanto essere considerata un elemento strutturale del sistema dei controlli interni: in tale contesto, il primo profilo da attenzionare è proprio quello della qualità dei dati utilizzati per l’addestramento dei sistemi di IA.

La fase di training è il momento nel quale il modello apprende correlazioni, regolarità e criteri decisionali, per cui eventuali errori presenti nei dataset tendono ad essere incorporati nel funzionamento stesso dell’algoritmo. Informazioni di dubbia origine (ovvero da fonti non qualificate o previamente acclarate), obsolete, incomplete, duplicate o caratterizzate da errori sistematici possono infatti compromettere la capacità del modello di produrre risultati affidabili anche quando il sistema risulti tecnicamente corretto.

A ciò si aggiunge il rischio derivante dalla presenza di dati non rappresentativi della realtà operativa dell’intermediario, circostanza che può determinare fenomeni di bias e discriminazioni indirette, particolarmente rilevanti nei processi decisionali automatizzati aventi impatto sulla clientela, come la concessione del credito, la profilazione commerciale o l’individuazione di anomalie nelle operazioni.

Ne consegue l’esigenza di adottare procedure strutturate di data governance, capaci di presidiare l’intero ciclo di vita del dato, dalla raccolta alla classificazione, dalla conservazione all’aggiornamento, fino alla verifica periodica della qualità e della coerenza delle basi informative utilizzate dai sistemi di IA.

Tale attività richiede:

• una chiara attribuzione di responsabilità organizzative
• l’individuazione dei soggetti responsabili della qualità dei dati
• l’integrazione dei controlli con i tradizionali sistemi di gestione del rischio operativo, informatico e di compliance.

Un secondo profilo da attenzionare, fra le implicazioni di una corretta governance del dato, è quello relativo al principio di trasparenza, destinato a rappresentare uno dei cardini dell’utilizzo responsabile dell’intelligenza artificiale, e chiaramente declinato nell’art. 13 del Regolamento (UE) 2024/1689 (AI Act): tale principio richiede che i sistemi di IA ad alto rischio siano progettati e sviluppati in modo tale da consentire ai soggetti che li utilizzano di interpretarne correttamente l’output e di impiegarli in maniera appropriata.

La disposizione impone inoltre che tali sistemi siano accompagnati da istruzioni d’uso contenenti informazioni sulle caratteristiche, sulle prestazioni, sui limiti del modello, sui dati utilizzati, sulle misure di supervisione umana e, soprattutto, sugli elementi necessari per comprendere e interpretare i risultati prodotti dall’algoritmo.

In tale prospettiva, la trasparenza non costituisce un mero obbligo informativo, ma rappresenta uno strumento essenziale di accountability, funzionale a consentire all’intermediario di ricostruire il processo decisionale, verificare l’affidabilità dell’output e dimostrare la conformità del sistema ai requisiti normativi.

Per gli intermediari non è infatti sufficiente conoscere il risultato prodotto dal sistema, ma diviene essenziale comprendere il processo logico che ha condotto a quello specifico output, soprattutto quando da esso derivino decisioni incidenti sulla posizione del cliente oppure valutazioni rilevanti ai fini della gestione dei rischi.

La trasparenza assume pertanto una duplice dimensione.

• concerne la conoscibilità delle caratteristiche essenziali del sistema, delle finalità perseguite, delle fonti informative impiegate e dei criteri generali di funzionamento
• richiede che l’intermediario sia concretamente in grado di ricostruire il percorso decisionale seguito dall’algoritmo, così da poter verificare la correttezza dell’elaborazione, individuare eventuali anomalie e fornire adeguate motivazioni delle decisioni assunte.

È in tale prospettiva che assume crescente importanza il tema della spiegabilità dell’output.

Molti sistemi di IA, in particolare quelli basati su modelli particolarmente complessi, sono caratterizzati da un elevato livello di opacità decisionale, fenomeno sovente definito come black box effect: in tali ipotesi il risultato prodotto può apparire corretto sotto il profilo statistico senza che risulti immediatamente comprensibile il percorso logico seguito dal modello.

Per il settore bancario tale circostanza rappresenta un elemento di particolare criticità: l’impossibilità di spiegare adeguatamente una decisione automatizzata può infatti incidere sulla capacità dell’intermediario di dimostrare la correttezza del proprio operato nei confronti delle autorità di vigilanza, di gestire il contenzioso con la clientela e di garantire un’effettiva supervisione umana delle decisioni supportate dall’intelligenza artificiale.

La spiegabilità non implica necessariamente la completa conoscenza del funzionamento matematico dell’algoritmo, ma richiede almeno la possibilità di identificare i principali fattori che hanno influenzato il risultato finale, consentendo ai soggetti responsabili di valutarne ragionevolezza, coerenza e conformità alle regole interne dell’intermediario.

In tale contesto, l’adozione dell’intelligenza artificiale non può essere considerata esclusivamente un progetto di innovazione tecnologica, ma richiede la definizione di un modello di governance che coinvolga funzioni aziendali diverse, tra cui IT, risk management, compliance, internal audit e business.

Solo un sistema fondato su dati affidabili, processi documentati, controlli continui e adeguati livelli di trasparenza e spiegabilità può infatti consentire agli intermediari di utilizzare l’intelligenza artificiale in modo coerente con gli obiettivi di efficienza, di corretta gestione dei rischi e di tutela della clientela, trasformando la qualità del dato da semplice requisito tecnico a vero e proprio presidio di governo dell’innovazione.