Intelligenza artificiale, per le banche il rischio legale parte dalla governance

Documentazione, controllo umano e rapporti con i fornitori incidono sulla gestione delle future controversie.

L’adozione dell’intelligenza artificiale espone banche e intermediari a rischi che coinvolgono l’organizzazione aziendale. Occorre ricostruire la scelta del sistema, i dati utilizzati e chi controlli le decisioni. È il tema affrontato dall’analisi di Sara Biglieri e Luca Ferrari sul contenzioso legato all’IA.

Il regolamento europeo 2024/1689 del 13 giugno 2024 distingue i ruoli degli operatori e calibra gli obblighi in funzione dei rischi. L’impresa che impiega un sistema di terzi non coincide necessariamente con il suo fornitore, ma conserva responsabilità proprie nel suo utilizzo. La qualificazione dipende dalle attività effettivamente svolte e dalle eventuali modifiche apportate al sistema.

Nel settore finanziario assumono particolare rilievo gli strumenti destinati alla valutazione dell’affidabilità creditizia delle persone fisiche. Il loro impiego può incidere sull’accesso a servizi essenziali e richiede attenzione alla classificazione regolatoria, alla qualità dei dati e alla supervisione umana. Non ogni applicazione bancaria ricade automaticamente nella stessa classe di rischio.

Dal punto di vista della prevenzione delle liti, la documentazione permette di ricostruire responsabilità e passaggi decisionali. Registrazioni, istruzioni ricevute e interventi degli operatori possono aiutare a chiarire se l’errore derivi dal modello, dall’integrazione nei processi o dall’uso concreto.

La lettura organizzativa suggerisce di collegare i controlli tecnici alle funzioni legali, di conformità e di gestione dei rischi. Un reclamo su una decisione automatizzata richiede infatti competenze diverse: comprendere l’esito, verificare le regole applicabili e individuare i documenti necessari alla risposta.

Nei contratti con i fornitori diventano rilevanti accesso alle informazioni, assistenza sugli incidenti e conservazione delle evidenze. La ripartizione interna dei compiti deve essere riconoscibile anche quando più sistemi contribuiscono alla medesima decisione.