E.SUN Bank sta collaborando con IBM per creare regole di governance dell’intelligenza artificiale più chiare su come l’intelligenza artificiale può essere utilizzata all’interno di una banca. Lo sforzo riflette un cambiamento più ampio nella finanza. Molte aziende utilizzano già l’intelligenza artificiale per i controlli antifrode e il credit scoring, e alcune la utilizzano anche per gestire le richieste del servizio clienti. La nuova sfida è come gestire questi sistemi in modo da soddisfare le norme legali e di rischio.
Le banche si trovano ad affrontare un elenco crescente di domande nell’implementazione dell’intelligenza artificiale. Come dovrebbe essere testato un modello prima di essere pubblicato? Chi è responsabile se fa una chiamata sbagliata? E come possono le aziende dimostrare alle autorità di regolamentazione che i loro sistemi sono equi e sicuri?
Per affrontare questi problemi, E.SUN Bank e IBM Consulting hanno creato un quadro di governance dell’intelligenza artificiale per il settore bancario. Il progetto include anche un libro bianco sulla governance dell’intelligenza artificiale che illustra come le società finanziarie possono creare controlli interni sui sistemi di intelligenza artificiale. Secondo il comunicato stampa delle aziende, il lavoro adatta standard globali come l’EU AI Act e ISO/IEC 42001 per i servizi finanziari.
Il quadro stabilisce come le banche possono rivedere i modelli di intelligenza artificiale prima che vengano implementati. Spiega anche come monitorare tali modelli una volta entrati in produzione. Include regole su come vengono utilizzati i dati e su come dovrebbero avvenire le revisioni dei rischi.
E.SUN Bank ha affermato che il quadro è destinato ad aiutare le istituzioni finanziarie a introdurre sistemi di intelligenza artificiale mantenendo la governance e la supervisione normativa. Molte aziende utilizzano già strumenti di intelligenza artificiale limitati. Il passo successivo è quello di estendere tali sistemi a tutte le operazioni principali come prestiti e pagamenti, pur rimanendo entro i limiti normativi.
Le banche cercano di gestire il rischio dell’IA
Le società finanziarie hanno valide ragioni per posizionare dei guardrail attorno ai sistemi di intelligenza artificiale. Il settore bancario si basa sulla fiducia e le autorità di regolamentazione richiedono alle aziende di monitorare il modo in cui vengono prese le decisioni. I modelli di intelligenza artificiale spesso agiscono come “scatole nere”, il che significa che può essere difficile spiegare come arrivano a un risultato. Ciò può creare problemi in aree quali le decisioni sul credito o i controlli antifrode. Le autorità di regolamentazione in molte regioni hanno iniziato a concentrarsi su questi rischi.
La legge sull’intelligenza artificiale dell’Unione europea, adottata nel 2024, stabilisce regole severe sui sistemi di intelligenza artificiale utilizzati in settori ad alto rischio come la finanza. La legge impone alle aziende di valutare i rischi e documentare i dati sulla formazione. Richiede inoltre loro di monitorare il comportamento dei modelli di intelligenza artificiale dopo la distribuzione.
Stanno prendendo forma anche gli standard globali. La norma ISO/IEC 42001, pubblicata nel 2023, stabilisce come le organizzazioni possono creare sistemi di gestione per l’intelligenza artificiale. Lo standard si concentra sulla supervisione e sul monitoraggio dei modelli. Affronta anche il modo in cui le organizzazioni dovrebbero gestire i dati dell’intelligenza artificiale. L’obiettivo è fornire alle aziende un modo strutturato per gestire l’intelligenza artificiale in un’intera azienda anziché trattare ciascun modello come uno strumento separato.
Il progetto di E.SUN Bank con IBM si basa su entrambi i framework. Ha lo scopo di mostrare come queste regole potrebbero funzionare nelle operazioni bancarie quotidiane.
Dai progetti pilota di intelligenza artificiale ai sistemi aziendali
Le banche utilizzano l’apprendimento automatico da anni, principalmente nell’analisi dei rischi e nel rilevamento delle frodi. I nuovi modelli di intelligenza artificiale stanno espandendo il modo in cui le banche utilizzano la tecnologia. Molti ora lo applicano nel servizio clienti e nella revisione dei documenti. Alcuni lo usano anche nei sistemi di conoscenza interni.
Questa espansione porta con sé nuove esigenze di governance. Un sistema che suggerisce risposte alle domande dei clienti può sembrare a basso rischio. Ma un modello che aiuta ad approvare prestiti o a individuare frodi può avere effetti finanziari diretti.
Il quadro di governance creato da E.SUN Bank e IBM definisce un processo per tenere traccia di tali rischi. I modelli vengono esaminati prima di essere pubblicati e i team monitorano i risultati dopo la distribuzione. Il framework assegna inoltre la responsabilità a tutti i team, dagli sviluppatori al personale addetto alla conformità. Il progetto ha inoltre prodotto un libro bianco che spiega i passaggi in modo più dettagliato. Delinea come le banche possono classificare i sistemi di intelligenza artificiale in base al livello di rischio e applicare diversi livelli di supervisione.
La governance dell’intelligenza artificiale si espande nei servizi finanziari
Il lavoro presso E.SUN Bank riflette una tendenza nella finanza globale. Molte banche ora vedono la governance come un passo fondamentale prima di estendere l’intelligenza artificiale a tutte le operazioni.
Le indagini di settore suggeriscono che l’adozione dell’IA nei servizi finanziari è già diffusa. Un rapporto del 2024 di NVIDIA ha rilevato che circa il 91% delle società di servizi finanziari stava valutando o già utilizzando l’intelligenza artificiale. Gli usi comuni includono il rilevamento delle frodi e la modellazione del rischio. Alcune banche utilizzano l’intelligenza artificiale anche per automatizzare le attività del servizio clienti.
Una ricerca di Deloitte mostra che oltre il 70% degli istituti finanziari prevede di aumentare gli investimenti nell’intelligenza artificiale. Gran parte di questa spesa è destinata al monitoraggio della conformità e all’analisi dei rischi. Alcune banche si aspettano inoltre che l’intelligenza artificiale migliori le operazioni interne.
Allo stesso tempo, le autorità di regolamentazione prestano maggiore attenzione. Le autorità di diverse regioni hanno avvertito le banche di monitorare il modo in cui i sistemi automatizzati influenzano decisioni come l’approvazione del credito e il rilevamento delle frodi. Questa pressione ha portato le banche a investire maggiormente nei sistemi di supervisione interna. Invece di concentrarsi solo sull’accuratezza del modello, le aziende ora tengono traccia anche delle fonti dei dati e della logica decisionale. Molti monitorano anche il comportamento dei modelli nel tempo.
Perché la governance può influenzare l’adozione dell’IA
La spinta verso la governance dell’IA può influenzare la rapidità con cui le banche adottano nuovi strumenti. Senza regole chiare, molte aziende esitano ad andare oltre i piccoli esperimenti. Un quadro strutturato può aiutarli a espandere i progetti di intelligenza artificiale pur rispettando i requisiti normativi.
Questa è l’idea alla base del progetto E.SUN Bank. Combinando gli standard globali con i flussi di lavoro bancari, il quadro stabilisce come l’intelligenza artificiale può essere implementata sotto una chiara supervisione. Secondo l’annuncio delle società, IBM ha affermato che il quadro è stato sviluppato per aiutare le istituzioni finanziarie a gestire i rischi dell’intelligenza artificiale mentre espandono il loro uso dell’intelligenza artificiale nel settore bancario.
Lo sforzo riflette anche il ruolo crescente della governance nell’intelligenza artificiale aziendale. I primi progetti di intelligenza artificiale si concentravano sulla creazione di modelli e sul miglioramento delle prestazioni. Oggi l’attenzione si sta spostando verso il modo in cui tali sistemi vengono gestiti nel tempo. Man mano che sempre più banche inseriscono l’intelligenza artificiale nelle operazioni principali, questa domanda potrebbe diventare altrettanto importante quanto la tecnologia stessa.
(Foto di Markus Spike)
Vedi anche: Manulife inserisce gli agenti IA nei principali flussi di lavoro finanziari
Vuoi saperne di più sull’intelligenza artificiale e sui big data dai leader del settore? Guardare Fiera dell’intelligenza artificiale e dei big data che si svolge ad Amsterdam, in California, e a Londra. L’evento completo è parte di TechEx ed è situato in concomitanza con altri importanti eventi tecnologici, clicca Qui per ulteriori informazioni
AI News è alimentato da Media TechForge. Esplora altri prossimi eventi e webinar sulla tecnologia aziendale Qui.
Fonte: www.artificialintelligence-news.com
