Quando un sistema di intelligenza artificiale prende decisioni in ambito finanziario, la mancanza di spiegabilità espone intermediari e gestori a responsabilità dirette verso clienti e autorità di vigilanza. Il regolamento UE sull’AI Act e la normativa MiFID II impongono già oggi obblighi di trasparenza sulle decisioni automatizzate che incidono sui clienti. Per uno studio legale che assiste banche, SGR o intermediari finanziari, conoscere i limiti della black box non è cultura tecnologica: è prevenzione del contenzioso.
Punti chiave
- Punto 1 — L’AI Act UE classifica i sistemi decisionali finanziari come ad alto rischio con obblighi di spiegabilità.
- Punto 2 — MiFID II art. 25 impone già la documentazione della logica alla base dei consigli automatizzati.
- Punto 3 — La mancata spiegabilità di una decisione AI può configurare inadempimento contrattuale verso il cliente.
Se assisti intermediari finanziari, SGR o banche, la domanda da porre al tuo cliente non è più solo «il sistema funziona?» ma «riesci a spiegare perché ha deciso così?». Senza una risposta documentata, il rischio di responsabilità verso il cliente — e di sanzione da parte di CONSOB o Banca d’Italia — è concreto e misurabile. L’explainability AI non è un tema da convegno: è già un requisito implicito in più fonti normative vigenti.
Agenda Digitale segnala come la logica interna di un modello di intelligenza artificiale sia diventata centrale nella gestione della compliance finanziaria, superando la logica del «risultato giustifica il mezzo». Secondo l’analisi pubblicata su Agenda Digitale, gestori, compliance officer e clienti hanno oggi bisogno di strumenti per leggere i driver delle decisioni automatizzate ed uscire dalla logica della black box.
Il contesto normativo
Il Regolamento UE 2024/1689 (AI Act), in vigore dal 1° agosto 2024, classifica i sistemi AI usati in ambito creditizio e di investimento come sistemi ad alto rischio ai sensi dell’art. 6 e dell’Allegato III. Per questi sistemi l’art. 13 impone obblighi espliciti di trasparenza e spiegabilità verso gli utenti e le autorità di vigilanza. Parallelamente, la Direttiva MiFID II — recepita in Italia con il d.lgs. 129/2017 — all’art. 25 obbliga gli intermediari a documentare l’adeguatezza dei consigli forniti, anche quando generati in modo automatizzato. Il Considerando 18 del Regolamento Delegato UE 2017/565 chiarisce che gli algoritmi di profilazione non esentano l’intermediario dall’obbligo di spiegare la raccomandazione al cliente. Infine, il GDPR, art. 22, riconosce al soggetto interessato il diritto di non essere sottoposto a decisioni basate esclusivamente su trattamento automatizzato con effetti giuridici significativi — diritto che include l’ottenere spiegazioni logiche sulla decisione.
Cosa cambia per lo studio
- Nei contratti di servizio con intermediari finanziari, inserisci clausole che obblighino il fornitore AI a documentare e aggiornare la logica del modello: senza questa previsione, in caso di contenzioso il cliente non ha strumenti per ricostruire la catena decisionale.
- Nella due diligence su operazioni che coinvolgono fintech o asset manager che usano AI, verifica l’esistenza di una procedura interna di explainability: la sua assenza è un red flag regolatorio che CONSOB può già contestare in sede ispettiva.
- Se assisti clienti retail danneggiati da decisioni automatizzate di investimento, l’art. 22 GDPR offre un’azione diretta: richiedi formalmente la spiegazione della logica applicata e usa l’eventuale rifiuto o risposta inadeguata come prova in sede civile o davanti all’ABF.
- Aggiorna i modelli di compliance aziendale dei clienti finanziari: l’AI Act prevede che i sistemi ad alto rischio siano sottoposti a valutazione della conformità prima della messa in uso, con documentazione tecnica conservata per almeno 10 anni (art. 18 AI Act).
- Monitora i provvedimenti CONSOB: l’autorità ha già avviato tavoli di lavoro sull’AI in finanza e una prima circolare applicativa dell’AI Act in ambito finanziario è attesa entro fine 2025.
Attenzione a
Il rischio più sottovalutato è confondere la spiegabilità tecnica con la spiegabilità legale. Un report generato dall’algoritmo stesso non è una spiegazione giuridicamente adeguata ai sensi dell’art. 22 GDPR: deve essere intellegibile per un non tecnico e riferirsi alla specifica decisione, non al funzionamento generale del modello. Chi presenta un output generico del sistema in risposta a una richiesta di spiegazione rischia di aggravare la propria posizione in sede contenziosa.
Secondo rischio: trattare l’explainability come adempimento una tantum. I modelli AI si aggiornano continuamente — il fenomeno del model drift fa sì che un sistema spiegabile oggi possa produrre decisioni opache dopo sei mesi senza che nessuno se ne accorga. Nei contratti e nelle procedure interne occorre prevedere audit periodici della logica del modello, non solo della sua performance.
Domande frequenti
Cosa rischia un intermediario finanziario che usa AI senza spiegare le decisioni al cliente?
Rischia sanzioni da CONSOB per violazione degli obblighi MiFID II (art. 25 d.lgs. 129/2017), responsabilità civile verso il cliente per inadempimento contrattuale, e contestazioni ai sensi dell’art. 22 GDPR se la decisione automatizzata ha effetti giuridici significativi. Il cumulo di queste esposizioni può essere rilevante in caso di sottoperformance del portafoglio.
Il cliente retail può chiedere spiegazioni su una decisione di investimento presa da un algoritmo?
Sì. L’art. 22 del GDPR riconosce il diritto di non essere soggetti a decisioni esclusivamente automatizzate con effetti significativi, incluso il diritto di ottenere spiegazione della logica applicata. La richiesta va formulata per iscritto all’intermediario, che ha 30 giorni per rispondere. Una risposta insufficiente è utilizzabile come prova in sede di reclamo ABF o giudizio civile.
L’AI Act si applica già agli intermediari finanziari italiani che usano sistemi AI?
Il Regolamento UE 2024/1689 è in vigore dal 1° agosto 2024 con applicazione progressiva. I sistemi ad alto rischio — tra cui quelli usati per merito creditizio e gestione degli investimenti — devono essere conformi entro agosto 2026. Tuttavia, gli obblighi di trasparenza ex art. 13 e la documentazione tecnica ex art. 18 vanno strutturati fin da subito per evitare di trovarsi impreparati a ridosso della scadenza.
Fonte di riferimento: AgendaDigitale