I sistemi di intelligenza artificiale stanno iniziando ad andare oltre le semplici risposte. In molte organizzazioni, gli agenti IA vengono ora testati per pianificare attività, prendere decisioni ed eseguire azioni con un input umano limitato. La questione non è più solo se un modello dà la risposta giusta. Riguarda ciò che accade quando a quel modello viene consentito di agire.
I sistemi autonomi necessitano di confini chiari. Hanno bisogno di regole che definiscano a cosa possono accedere, cosa possono fare e come vengono tracciate le loro azioni. Senza tali controlli, anche i sistemi ben addestrati possono creare problemi difficili da rilevare o risolvere.
Una società che sta lavorando su questo problema è Deloitte. L’azienda ha sviluppato quadri di governance e approcci di consulenza per aiutare le organizzazioni a gestire i sistemi di intelligenza artificiale.
Dagli strumenti agli agenti AI
La maggior parte dei sistemi di intelligenza artificiale in uso oggi dipendono ancora da stimoli umani. Generano testo, analizzano dati o fanno previsioni, ma di solito è una persona a decidere cosa succede dopo. L’intelligenza artificiale agentica cambia questo modello. Questi sistemi possono suddividere un obiettivo in passaggi, scegliere azioni e interagire con altri sistemi per completare le attività.
Questa maggiore indipendenza comporta nuove sfide. Quando un sistema agisce in modo autonomo, può intraprendere percorsi non del tutto previsti o utilizzare i dati in modi non previsti.
Il lavoro di Deloitte si concentra sull’aiutare le organizzazioni a prepararsi a questi rischi. Invece di considerare l’intelligenza artificiale come uno strumento autonomo, l’azienda esamina come si inserisce nei processi aziendali, compreso il modo in cui vengono prese le decisioni e il modo in cui i dati fluiscono attraverso i sistemi.
Integrare la governance nel ciclo di vita
La governance non deve essere aggiunta dopo la distribuzione. Deve essere integrato nell’intero ciclo di vita di un sistema di intelligenza artificiale.
Questo inizia nella fase di progettazione. Le organizzazioni devono definire cosa può fare un sistema e quali sono i suoi limiti. Ciò potrebbe includere la definizione di regole sull’utilizzo dei dati e la definizione di come il sistema dovrebbe rispondere in situazioni incerte.
La fase successiva è la distribuzione. A questo punto, la governance si concentra sull’accesso e sul controllo, compreso chi può utilizzare il sistema e a cosa può connettersi. Una volta che il sistema è attivo, il monitoraggio diventa la preoccupazione principale. I sistemi autonomi possono cambiare nel tempo mentre interagiscono con nuovi dati. Senza controlli regolari, potrebbero allontanarsi dal loro scopo originale.
Il ruolo della trasparenza e della responsabilità
Man mano che i sistemi di intelligenza artificiale assumono maggiori responsabilità, diventa più difficile tracciare il modo in cui vengono prese le decisioni. Ciò crea una richiesta di maggiore trasparenza. Il lavoro di Deloitte evidenzia l’importanza di tenere traccia del funzionamento dei sistemi. Ciò include la registrazione delle azioni e la documentazione delle decisioni. Questi record aiutano le organizzazioni a determinare cosa è successo se qualcosa va storto. Se un sistema autonomo intraprende un’azione, è necessario che ci sia chiarezza su chi è responsabile.
Una ricerca di Deloitte mostra che l’adozione degli agenti IA si sta muovendo più velocemente dei controlli necessari per gestirli. Circa il 23% delle aziende li utilizza già e si prevede che tale cifra raggiungerà il 74% entro due anni. Solo il 21% riferisce di disporre di forti misure di salvaguardia per monitorare il proprio comportamento.
Supervisione in tempo reale per gli agenti IA
Una volta che un sistema autonomo è attivo, l’attenzione si sposta su come si comporta nelle condizioni del mondo reale. Le regole statiche non sempre sono sufficienti e i sistemi devono essere rispettati mentre funzionano.
L’approccio di Deloitte include il monitoraggio in tempo reale, consentendo alle organizzazioni di monitorare ciò che sta facendo un sistema di intelligenza artificiale mentre esegue le attività. Se il sistema si comporta in modo inaspettato, i team possono intervenire rapidamente. Ciò potrebbe comportare la sospensione di determinate azioni o la modifica delle autorizzazioni. La supervisione in tempo reale aiuta anche a garantire la conformità. Nei settori regolamentati, le aziende devono dimostrare che i sistemi seguono regole e standard.
In pratica, questi controlli stanno iniziando ad apparire nei contesti operativi. Deloitte descrive scenari in cui i sistemi di intelligenza artificiale monitorano le prestazioni delle apparecchiature nei siti. I dati dei sensori possono segnalare i primi segnali di guasto, che possono attivare flussi di lavoro di manutenzione e aggiornare i sistemi interni. I quadri di governance definiscono quali azioni il sistema può intraprendere, quando è richiesta l’approvazione umana e come vengono registrate le decisioni. Il processo viene eseguito su più sistemi, ma dal punto di vista dell’utente appare come un’unica azione.
La governance è parte delle discussioni su Expo sull’intelligenza artificiale e sui big data Nord America 2026che si svolgerà il 18 e 19 maggio a Santa Clara, in California. Deloitte è elencata come Diamond Sponsor dell’evento, collocandola tra le aziende che contribuiscono alle conversazioni su come i sistemi autonomi vengono implementati e controllati nella pratica.
La sfida non è solo costruire sistemi più intelligenti, ma garantire che si comportino in modi che le organizzazioni possano comprendere, gestire e fidare nel tempo.
(Foto di romano)
Vedi anche: I sistemi di intelligenza artificiale autonomi dipendono dalla governance dei dati
Vuoi saperne di più sull’intelligenza artificiale e sui big data dai leader del settore? Guardare Fiera dell’intelligenza artificiale e dei big data che si svolge ad Amsterdam, in California, e a Londra. L’evento completo è parte di TechEx ed è situato in concomitanza con altri importanti eventi tecnologici tra cui Fiera sulla sicurezza informatica e sul cloud. Clic Qui per ulteriori informazioni
AI News è alimentato da Media TechForge. Esplora altri prossimi eventi e webinar sulla tecnologia aziendale Qui.
Fonte: www.artificialintelligence-news.com
