Intelligenza artificiale in banche e assicurazioni: trasparenza e spiegabilità diventano centrali con l’AI Act

La crescente diffusione dell’intelligenza artificiale nei processi decisionali di banche e imprese di assicurazione pone in primo piano il tema della trasparenza e della spiegabilità dei risultati prodotti dai sistemi di IA. Dalla valutazione del merito creditizio alla prevenzione delle frodi, fino alla determinazione del rischio e del prezzo delle coperture assicurative, gli algoritmi assumono infatti un ruolo sempre più rilevante in decisioni che possono avere conseguenze dirette sui clienti. Diventa quindi fondamentale garantire che i risultati generati dall’intelligenza artificiale non siano soltanto utilizzabili, ma anche comprensibili, verificabili e sottoposti a un effettivo controllo umano. La questione assume particolare importanza alla luce dell’AI Act europeo, che introduce specifici obblighi per i sistemi di intelligenza artificiale classificati come ad alto rischio. In particolare, l’articolo 13 stabilisce che tali sistemi devono essere progettati e sviluppati assicurando un livello di trasparenza sufficiente affinché chi li utilizza possa interpretarne correttamente i risultati e impiegarli in maniera appropriata sulla base delle informazioni e delle istruzioni messe a disposizione dal provider. La trasparenza richiesta dalla normativa europea non significa necessariamente rendere conoscibile ogni dettaglio tecnico dell’algoritmo, ma garantire la disponibilità delle informazioni indispensabili per comprenderne finalità, capacità, limiti prestazionali e livello di accuratezza, oltre alle circostanze che potrebbero influenzarne i risultati. Si tratta di elementi fondamentali anche per assicurare la sorveglianza umana prevista dall’articolo 14 dell’AI Act. Le persone incaricate del controllo devono infatti essere messe nelle condizioni di conoscere adeguatamente capacità e limiti del sistema, interpretarne gli output e intervenire quando necessario, anche scegliendo di non utilizzare un determinato risultato, modificarlo oppure interrompere il funzionamento del sistema. Per banche e assicurazioni la spiegabilità assume una rilevanza ancora maggiore quando l’intelligenza artificiale contribuisce a decisioni capaci di incidere concretamente sulla posizione del cliente, come nel caso della concessione o del diniego di un finanziamento, della definizione delle condizioni di accesso al credito oppure della valutazione del rischio e della determinazione del prezzo di una copertura assicurativa. L’AI Act considera infatti ad alto rischio, fatte salve le eccezioni previste dal Regolamento, i sistemi di IA utilizzati per valutare l’affidabilità o il merito creditizio delle persone fisiche, così come quelli impiegati per la valutazione del rischio e la determinazione dei prezzi nelle assicurazioni vita e malattia. Proprio in questi settori, l’impiego di modelli particolarmente complessi e di grandi quantità di dati può rendere difficile individuare immediatamente quali elementi abbiano maggiormente contribuito al risultato finale. La capacità di ricostruire questi fattori diventa quindi indispensabile non soltanto per verificare l’affidabilità e la correttezza dell’output, ma anche per individuare eventuali anomalie, distorsioni o fenomeni discriminatori e assicurare che l’utilizzo dell’intelligenza artificiale rimanga coerente con le regole che disciplinano i rapporti tra operatori finanziari e clientela. Alla trasparenza interna all’organizzazione si affianca inoltre una dimensione esterna, che riguarda direttamente le persone interessate dalle decisioni adottate con il contributo dell’intelligenza artificiale. La questione può emergere, ad esempio, quando un sistema contribuisce al rifiuto di una richiesta di finanziamento, alla definizione delle condizioni applicate a un credito oppure alla valutazione del rischio e al pricing di una polizza assicurativa. In questo contesto assume rilievo l’articolo 86 dell’AI Act, che, quando ricorrono le condizioni stabilite dalla normativa, riconosce alla persona interessata il diritto di ottenere dal deployer, cioè dal soggetto che utilizza il sistema di IA, spiegazioni chiare e significative sul ruolo svolto dall’intelligenza artificiale nella procedura decisionale e sui principali elementi alla base della decisione adottata, quando quest’ultima produce effetti giuridici o incide significativamente sulla persona. La spiegabilità assume pertanto una funzione che va oltre la semplice trasparenza tecnica: l’obiettivo è mettere l’interessato nelle condizioni di comprendere concretamente quale influenza abbia avuto l’intelligenza artificiale sulla decisione e quali siano stati gli elementi principali che hanno condotto a un determinato risultato. Le disposizioni dell’AI Act devono inoltre essere coordinate con quelle previste dal GDPR, in particolare dagli articoli 13, 14, 15 e 22, quando i sistemi di intelligenza artificiale utilizzano dati personali nell’ambito di processi decisionali automatizzati. In presenza dei relativi presupposti, gli obblighi di trasparenza possono comprendere la comunicazione di informazioni significative sulla logica utilizzata, sull’importanza del trattamento e sulle conseguenze previste per l’interessato, mentre l’articolo 22 del GDPR stabilisce specifiche garanzie rispetto alle decisioni fondate unicamente su trattamenti automatizzati che producano effetti giuridici o incidano in maniera analoga e significativa sulla persona. Per gli operatori finanziari e assicurativi, tuttavia, la spiegabilità non può essere considerata esclusivamente una caratteristica tecnica dell’algoritmo. Deve diventare un vero e proprio presidio organizzativo e di governance, integrato nelle diverse fasi di selezione, validazione, implementazione, utilizzo e monitoraggio dei sistemi di intelligenza artificiale. Banche e imprese di assicurazione dovranno quindi dotarsi di competenze adeguate, procedure e sistemi di controllo capaci di consentire alle persone responsabili di comprendere il significato degli output, verificarne la coerenza rispetto ai dati utilizzati e identificare eventuali risultati anomali. L’obiettivo è evitare che una decisione prodotta o supportata dall’intelligenza artificiale venga recepita automaticamente dall’organizzazione senza una reale capacità di analisi e valutazione critica. In questo nuovo scenario normativo e tecnologico, trasparenza, spiegabilità e sorveglianza umana diventano quindi componenti strettamente collegate della governance dell’intelligenza artificiale nel settore finanziario e assicurativo. Quanto maggiore è il peso attribuito agli algoritmi nelle decisioni che incidono sui clienti, tanto più importante diventa per banche e assicurazioni essere in grado di comprendere e documentare il processo che conduce a un determinato risultato e, quando richiesto, spiegare in maniera chiara e significativa le ragioni alla base della decisione adottata.