Gli ambienti cloud aziendali ora hanno accesso a una funzionalità di annullamento per gli agenti AI in seguito all’implementazione di Commvault AI Protect.
Il software autonomo ora vaga attraverso l’infrastruttura, potenzialmente eliminando file, leggendo database, avviando cluster di server e persino riscrivendo le policy di accesso. Commvault ha identificato questo problema di governance e il fornitore di protezione dei dati ha lanciato AI Protect, un sistema progettato per rilevare, monitorare e ripristinare forzatamente le azioni dei modelli autonomi che operano all’interno di AWS, Microsoft Azure e Google Cloud.
La governance tradizionale si basa interamente su regole statiche. Concedi a un utente umano autorizzazioni specifiche e quell’utente esegue un’attività prevedibile e lineare. Se qualcosa va storto, la responsabilità è chiara. Agenti dell’intelligenza artificialetuttavia, mostrano un comportamento emergente.
Quando viene ricevuto un prompt complesso, un agente metterà insieme le autorizzazioni approvate in modi potenzialmente non approvati per risolvere il problema. Se un agente decide che il modo più efficiente per ottimizzare i costi di archiviazione nel cloud è eliminare un intero database di produzione, eseguirà tale comando in millisecondi.
Un ingegnere umano potrebbe fare una pausa prima di eseguire un comando distruttivo, mettendone in discussione la logica. Un agente AI segue semplicemente il suo ciclo di ragionamento interno. Esegue il loop di migliaia di richieste API al secondo, superando di gran lunga i tempi di reazione dei centri operativi di sicurezza umana.
Pranay Ahlawat, Chief Technology and AI Officer di Commvault, ha dichiarato: “Negli ambienti ad agenti, gli agenti modificano lo stato di dati, sistemi e configurazioni in modi che si accumulano rapidamente e sono difficili da tracciare. Quando qualcosa va storto, i team devono ripristinare non solo i dati, ma l’intero stack – applicazioni, configurazioni degli agenti e dipendenze – riportandoli a uno stato noto e funzionante.”
Una nuova generazione di strumenti di governance per gli agenti AI cloud
AI Protect è un esempio di strumenti emergenti che scansionano continuamente l’impronta del cloud aziendale per identificare gli agenti attivi. L’intelligenza artificiale ombra rimane un’enorme difficoltà per i dipartimenti IT aziendali. Sviluppatori avvia regolarmente agenti sperimentali utilizzando credenziali aziendali senza avvisare i team di sicurezza e collega modelli linguistici a data lake interni per testare nuovi flussi di lavoro.
Commvault porta alla luce questi attori nascosti. Una volta identificato, il software monitora le chiamate API specifiche dell’agente e le interazioni dei dati su AWS, Azure e GCP. Registra ogni lettura del database, ogni modifica dello storage e ogni cambiamento di configurazione.
La funzione di rollback fornisce la rete di sicurezza. Se un modello ha allucinazioni o interpreta erroneamente un comando, gli amministratori possono ripristinare l’ambiente allo stato esatto prima che la macchina iniziasse la sequenza distruttiva.
Tuttavia, l’infrastruttura cloud è altamente stateful e profondamente interconnessa. Invertire una catena complessa di azioni automatizzate richiede un monitoraggio preciso e basato su registri. Non è possibile ripristinare semplicemente una singola tabella di database se la macchina ha anche modificato le regole di rete, attivato funzioni serverless downstream e alterato le policy di gestione dell’accesso alle identità durante l’esecuzione.
Per raggiungere questo obiettivo, Commvault unisce l’architettura di backup tradizionale con il monitoraggio continuo del cloud. Mappando il raggio dell’esplosione della sessione dell’agente, il software isola il danno. Districa le modifiche specifiche apportate dall’intelligenza artificiale dalle modifiche legittime apportate dagli utenti umani nello stesso lasso di tempo. Ciò impedisce a un rollback di massa di eliminare transazioni valide dei clienti o di cancellare ore di lavoro tecnico legittimo.
Le macchine continueranno a eseguire attività più velocemente di quanto gli operatori umani possano monitorarle. La priorità ora è implementare misure di salvaguardia che garantiscano che le azioni autonome possano essere immediatamente e accuratamente annullate.
Vedi anche: Gli sviluppatori Citizen ora hanno il proprio Wingman
Vuoi saperne di più sull’intelligenza artificiale e sui big data dai leader del settore? Guardare Fiera dell’intelligenza artificiale e dei big data che si svolge ad Amsterdam, in California, e a Londra. L’evento completo è parte di TechEx ed è situato in concomitanza con altri importanti eventi tecnologici tra cui Fiera sulla sicurezza informatica e sul cloud. Clic Qui per ulteriori informazioni
AI News è alimentato da Media TechForge. Esplora altri prossimi eventi e webinar sulla tecnologia aziendale Qui.
Fonte: www.artificialintelligence-news.com
