Gran parte dell’attenzione attuale sulla sicurezza dell’intelligenza artificiale è incentrata sui modelli, ovvero sul modo in cui vengono addestrati e monitorati. Ma man mano che i sistemi diventano più autonomi, l’attenzione si sta spostando verso i dati da cui dipendono. Se i dati che alimentano un sistema di intelligenza artificiale sono frammentati, obsoleti o privi di supervisione, il comportamento del sistema può diventare più imprevedibile.
La governance dei dati sta diventando una parte fondamentale del modo in cui vengono controllati i sistemi autonomi. Denodo è una delle aziende che lavora in quest’area, concentrandosi sul modo in cui le organizzazioni accedono e gestiscono i dati in diverse fonti.
I sistemi di intelligenza artificiale autonomi svolgono compiti con supervisione limitata, recuperando informazioni, prendendo decisioni basate su tali informazioni e attivando azioni nei flussi di lavoro aziendali. La sfida è che questi sistemi dipendono da un flusso costante di dati. Nei settori regolamentati, risultati imprevedibili possono creare rischi di conformità. Nei sistemi rivolti al cliente, ciò potrebbe comportare decisioni sbagliate o risposte errate.
Come i dati alterano il comportamento dell’intelligenza artificiale
I dati sono spesso distribuiti in più sistemi. Le grandi organizzazioni archiviano informazioni in piattaforme cloud, database interni e servizi di terze parti. Ciò crea silos, in cui diverse parti dell’azienda operano su versioni diverse degli stessi dati.
Denodo risolve questo problema fornendo un modo per accedere ai dati senza spostarli in un unico repository. La sua piattaforma crea una visione unificata dei dati provenienti da diverse fonti per le applicazioni, inclusi i sistemi di intelligenza artificiale.
Consente alle organizzazioni di applicare policy coerenti in tutte le origini dati. Regole di accesso, requisiti di conformità e limiti di utilizzo possono essere definiti in un unico posto. Supporta inoltre approcci che consentono ai sistemi di intelligenza artificiale di interrogare i dati aziendali utilizzando strutture e policy definite.
La piattaforma registra come vengono interrogati i dati e cosa viene restituito, creando un audit trail. Ciò può aiutare le organizzazioni a comprendere come un sistema di intelligenza artificiale ha raggiunto una decisione e supportare i requisiti di conformità. Può anche aiutare i team a monitorare l’utilizzo dei dati in tempo reale e a identificare attività insolite.
Se più sistemi di intelligenza artificiale si basano sullo stesso livello di dati governato, è più probabile che producano risultati allineati che possono aiutare a ridurre il rischio di risultati contrastanti in diverse parti dell’azienda.
La governance in pila
Man mano che i sistemi di intelligenza artificiale autonomi diventano più comuni, la governance viene applicata a più livelli. La governance dei dati, che si trova alla base di modelli e applicazioni, aiuta a garantire che gli input di tali sistemi siano affidabili. Un modello ben governato può ancora produrre scarsi risultati, soprattutto se si basa su dati errati. Una forte governance dei dati può favorire risultati migliori anche quando i sistemi operano con un certo grado di indipendenza.
Questo è il motivo per cui le aziende focalizzate sui dati stanno diventando parte del più ampio dibattito sulla governance dell’intelligenza artificiale. Controllando il modo in cui si accede e si utilizzano i dati, aiutano a modificare il comportamento pratico dei sistemi autonomi.
All’AI & Big Data Expo Nord America 2026Expo sull’intelligenza artificiale e sui big data Nord America 2026Expo sull’intelligenza artificiale e sui big data Nord America 2026le discussioni sull’intelligenza artificiale includono la supervisione e il comportamento del sistema. Denodo è tra le aziende che prendono parte a queste discussioni, in particolare sulla gestione dei dati e sull’intelligenza artificiale aziendale. Le prime implementazioni spesso si concentravano su ciò che i sistemi di intelligenza artificiale potevano fare. Le discussioni attuali riguardano più il modo in cui tali sistemi dovrebbero essere gestiti una volta in uso.
Dalla capacità al controllo
È probabile che la prossima fase dell’adozione dell’intelligenza artificiale dipenda meno dalle funzionalità dei nuovi modelli e più dal modo in cui le organizzazioni gestiscono i sistemi che le circondano. La governance non è una caratteristica aggiuntiva, ma un requisito per i sistemi che dovrebbero agire in modo autonomo.
(Foto di Gruppo Hyundai Motor)
Vedi anche: SAP e ANYbotics guidano l’adozione industriale dell’intelligenza artificiale fisica
Vuoi saperne di più sull’intelligenza artificiale e sui big data dai leader del settore? Dai un’occhiata all’Expo sull’intelligenza artificiale e sui big dataFiera dell’intelligenza artificiale e dei big data che si svolge ad Amsterdam, in California, e a Londra. L’evento completo è parte di TechEx ed è situato in concomitanza con altri importanti eventi tecnologici, clicca Qui per ulteriori informazioni
AI News è alimentato da Media TechForge. Esplora altri prossimi eventi e webinar sulla tecnologia aziendale Qui.
Fonte: www.artificialintelligence-news.com
