La società di pagamenti digitali e fintech Ant International ha vinto la NeurIPS Competition of Fairness in AI Face Detection. La società afferma di essere impegnata a sviluppare servizi finanziari sicuri e inclusivi, in particolare perché le tecnologie deepfake stanno diventando sempre più comuni.
Il crescente utilizzo del riconoscimento facciale in molti settori ha evidenziato il problema dei bias algoritmici nell’intelligenza artificiale. Una ricerca condotta dal NIST (National Institute of Standards and Technology) mostra che molti algoritmi di riconoscimento facciale ampiamente utilizzati mostrano tassi di errore considerevolmente più elevati quando si analizzano i volti delle donne e delle persone di colore, una disparità che deriva da una mancanza di diversità nei dati di addestramento e nei dati demografici di coloro che costruiscono e controllano molte piattaforme di intelligenza artificiale tradizionali. Le conseguenze di algoritmi distorti possono portare alla negazione dei servizi finanziari ad ampie fasce della popolazione e sono viste come una vulnerabilità nei protocolli di sicurezza.
Il concorso NeurIPS si è svolto in concomitanza con la Conference on Neural Information Processing Systems, l’autorevole conferenza sull’intelligenza artificiale, e ha sfidato i partecipanti a creare modelli di intelligenza artificiale in grado di garantire prestazioni elevate ed equità coprendo una serie di fattori demografici: sesso, età e tono della pelle. Il team di Ant International ha battuto oltre 2.100 proposte provenienti da 162 squadre provenienti da tutto il mondo. Il compito assegnato era quello di rilevare con precisione 1,2 milioni di immagini di volti generate dall’intelligenza artificiale, scelte come adeguatamente rappresentative dei gruppi demografici.
L’approccio adottato dal modello di intelligenza artificiale vincente di Ant combina un’architettura Mixture of Experts (MoE) con un meccanismo di rilevamento dei bias. Il sistema addestra due reti neurali concorrenti: una focalizzata sull’identificazione dei deepfake, e l’altra progettata per sfidare la prima, costringendola a ignorare le caratteristiche demografiche. Questo processo dinamico aiuta a garantire che il sistema impari a rilevare segnali autentici di manipolazione anziché fare affidamento inavvertitamente su modelli demografici. La formazione del modello ha incorporato un set di dati rappresentativo a livello globale e ha incorporato scenari di frode nei pagamenti nel mondo reale per garantirne le prestazioni su larga scala.
“Un sistema di intelligenza artificiale parziale è intrinsecamente insicuro”, ha spiegato il dottor Tianyi Zhang, direttore generale della gestione del rischio e della sicurezza informatica presso Ant International. “L’equità del nostro modello non è solo una questione etica; è fondamentale per prevenire lo sfruttamento dei deepfake e garantire una verifica affidabile dell’identità per ogni utente”.
La tecnologia alla base del progetto vincitore viene ora integrata nei servizi finanziari e di pagamento di Ant per aiutare a contrastare la minaccia dei deepfake e, secondo le società, raggiunge un tasso di rilevamento superiore al 99,8% in tutti i dati demografici e nei 200 mercati in cui Ant opera.
La tecnologia di Ant aiuta i propri clienti a soddisfare gli standard globali di Electronic Know Your Customer (eKYC), in particolare durante l’onboarding del cliente, senza pregiudizi algoritmici. Ciò è ritenuto particolarmente importante nei mercati emergenti dove una maggiore inclusione finanziaria può essere ostacolata.
Ant International serve oltre 150 milioni di commercianti e 1,8 miliardi di conti utente, noti per servizi come Alipay+, Antom, Bettr e WorldFirst. La società ha affermato che la sicurezza dell’intelligenza artificiale è un pilastro delle sue operazioni. Si tratta di AI SHIELD, un framework per la gestione del rischio basato su AI Security Docker per aiutare a mitigare il rischio di vulnerabilità nei servizi AI come l’accesso non autorizzato e la fuga di dati.
AI SHIELD è alla base di una suite di soluzioni di gestione del rischio che forniscono una più ampia protezione delle transazioni finanziarie, comprese misure contro attacchi deepfake e frodi. Alipay+ EasySafePay 360 ha ridotto del 90% gli episodi di furto di conti nei pagamenti con portafoglio digitale, afferma l’azienda.
(Fonte immagine: “arte astratta di un bellissimo ritratto, forme solide, forme geometriche, colori neotokyo, colori tenui, pixar, artstation, greg rutkowski, samdoesart, ge” – dominio pubblico)
Vuoi saperne di più sull’intelligenza artificiale e sui big data dai leader del settore? Guardare Fiera dell’intelligenza artificiale e dei big data che si svolge ad Amsterdam, in California, e a Londra. L’evento completo è parte di TechEx e co-localizzato con altri importanti eventi tecnologici. Clic Qui per ulteriori informazioni
AI News è alimentato da Media TechForge. Esplora altri prossimi eventi e webinar sulla tecnologia aziendale Qui.
Fonte: www.artificialintelligence-news.com
