L’adozione ha un costo elevato di sicurezza | Intelligenza-Artificiale

Il settore della vendita al dettaglio è tra i leader dell’adozione generativa dell’IA, ma un nuovo rapporto evidenzia i costi di sicurezza che lo accompagnano.

Secondo la società di sicurezza informatica NetskopeIl settore della vendita al dettaglio ha quasi universalmente adottato la tecnologia, con il 95% delle organizzazioni che ora utilizzano applicazioni generative di intelligenza artificiale. È un grande salto dal 73% solo un anno fa, mostrando quanto velocemente si stanno arrampicando per evitare di essere lasciati indietro.

Tuttavia, questa corsa all’oro dell’IA è dotata di un lato oscuro. Mentre le organizzazioni intrecciano questi strumenti nel tessuto delle loro operazioni, stanno creando una nuova enorme superficie per attacchi informatici e perdite di dati sensibili.

I risultati del rapporto mostrano un settore in transizione, passando dalla caotica adozione precoce a un approccio più controllato a guida aziendale. C’è stato uno spostamento dal personale che utilizzava i loro conti di intelligenza artificiale personale, che si è dimezzato più che dimezzato dal 74% al 36% dall’inizio dell’anno. Al suo posto, l’utilizzo degli strumenti Genai approvati dall’azienda è più che raddoppiato, salendo dal 21% al 52% nello stesso lasso di tempo. È un segno che le aziende si stanno svegliando ai pericoli di “Shadow AI” e cercando di avere una gestione della situazione.

Nella battaglia per il desktop al dettaglio, Chatgpt rimane King, usato dall’81% delle organizzazioni. Tuttavia, il suo dominio non è assoluto. Google Gemini si è fatto strada con l’adozione del 60% e Microsoft Copilota Gli strumenti sono caldi sui talloni rispettivamente al 56% e al 51%. La popolarità di Chatgpt ha recentemente visto il suo primo tuffo in assoluto, mentre l’utilizzo di Microsoft 365 Copilot è aumentato, probabilmente grazie alla sua profonda integrazione con gli strumenti di produttività che molti dipendenti usano ogni giorno.

Sotto la superficie di questa adozione generativa dell’IA da parte del settore della vendita al dettaglio si trova un incubo di sicurezza in crescita. La cosa che rende utili questi strumenti – la loro capacità di elaborare le informazioni – è anche la loro più grande debolezza. I rivenditori stanno vedendo quantità allarmanti di dati sensibili alimentati in essi.

Il tipo più comune di dati esposti è il codice sorgente dell’azienda, che costituisce il 47% di tutte le violazioni delle politiche di dati nelle app Genai. Chiudi i dati regolamentati, come le informazioni riservate e le informazioni commerciali, al 39%.

In risposta, un numero crescente di rivenditori sta semplicemente vietando le app che ritengono troppo rischiose. L’app che si trova più frequentemente nella blocklist è Zerogpt, con il 47% delle organizzazioni che lo vietano rispetto alle preoccupazioni, memorizza il contenuto dell’utente ed è stato persino catturato a reindirizzare i dati a siti di terze parti.

Questa nuova cautela sta spingendo il settore della vendita al dettaglio verso piattaforme di intelligenza artificiale generativa più gravi e di livello aziendale dei principali fornitori di cloud. Queste piattaforme offrono un controllo molto maggiore, consentendo alle aziende di ospitare modelli privatamente e di creare i propri strumenti personalizzati.

Sia Openai via Azure che Amazon Bedrock sono legati per il comando, ognuno utilizzato dal 16% delle società di vendita al dettaglio. Ma questi non sono proiettili d’argento; Una semplice errata configurazione potrebbe inavvertitamente collegare un’intelligenza artificiale potente direttamente ai gioielli della corona di un’azienda, creando il potenziale per una violazione catastrofica.

La minaccia non è solo da parte dei dipendenti che usano l’intelligenza artificiale nei loro browser. Il rapporto rileva che il 63% delle organizzazioni si sta ora connettendo direttamente all’API di Openi, incorporando l’IA in profondità nei loro sistemi di back -end e flussi di lavoro automatizzati.

Questo rischio specifico per l’intelligenza artificiale fa parte di un modello più ampio e preoccupante di scarsa igiene di sicurezza delle nuvole. Gli aggressori utilizzano sempre più nomi di fiducia per fornire malware, sapendo che un dipendente ha maggiori probabilità di fare clic su un link da un servizio familiare. Microsoft OneDrive è il colpevole più comune, con l’11% dei rivenditori colpiti da malware dalla piattaforma ogni mese, mentre il Hub sviluppatore GitHub viene utilizzato nel 9,7% degli attacchi.

Il problema di lunga data dei dipendenti che utilizzano app personali sul lavoro continua a versare carburante sul fuoco. I siti di social media come Facebook e LinkedIn sono utilizzati in quasi tutti gli ambienti di vendita al dettaglio (rispettivamente 96% e 94%), insieme a account personali di archiviazione cloud. È su questi servizi personali non approvati che si verificano le peggiori violazioni dei dati. Quando i dipendenti caricano file su app personali, il 76% delle violazioni delle politiche risultanti prevede dati regolamentati.

Per i leader della sicurezza nella vendita al dettaglio, la sperimentazione di AI generativa casuale è finita. I risultati di Netskope sono un avvertimento che le organizzazioni devono agire in modo decisivo. È tempo di ottenere la piena visibilità di tutto il traffico Web, bloccare le applicazioni ad alto rischio e far rispettare le rigide politiche di protezione dei dati per controllare quali informazioni possono essere inviate dove.

Senza una governance adeguata, la prossima innovazione potrebbe facilmente diventare la prossima violazione della produzione del titolo.

Vedi anche: Martin Frederik, Snowflake: la qualità dei dati è la chiave per la crescita guidata dall’IA

Vuoi saperne di più sull’intelligenza artificiale e sui big da parte dei leader del settore? Guardare AI e Big Data Expo si svolge ad Amsterdam, in California e a Londra. L’evento completo fa parte di Techex ed è collocato con altri eventi tecnologici leader, clicca Qui Per ulteriori informazioni.

AI News è alimentato da TechForge Media. Esplora altri prossimi eventi tecnologici aziendali e webinar Qui.