Man mano che l’intelligenza artificiale diventa sempre più parte integrante delle operazioni aziendali, nuove preoccupazioni e minacce alla sicurezza emergono a un ritmo senza precedenti, superando le capacità delle tradizionali soluzioni di sicurezza informatica.
La posta in gioco è alta con ripercussioni potenzialmente significative. Secondo Cisco Indice di preparazione all'IA 2024solo il 29% delle organizzazioni intervistate si ritiene pienamente attrezzato per rilevare e prevenire manomissioni non autorizzate delle tecnologie di intelligenza artificiale.
Convalida continua del modello
DJ Sampath, responsabile del software e della piattaforma AI presso Ciscoha detto: “Quando parliamo di validazione del modello, non è solo una cosa una tantum, giusto? Stai eseguendo la convalida del modello su base continua.
“Quindi, quando vedi che si verificano cambiamenti nel modello – se stai facendo qualsiasi tipo di messa a punto o scopri nuovi attacchi che stanno iniziando a manifestarsi da cui hai bisogno che i modelli traggano insegnamento – apprendiamo costantemente tutte queste informazioni e riconvalidare il modello per vedere come si comportano questi modelli sotto questi nuovi attacchi che abbiamo scoperto.
“L’altro punto molto importante è che disponiamo di un team di ricerca sulle minacce davvero avanzato che osserva costantemente questi attacchi IA e capisce come questi attacchi possano essere ulteriormente potenziati. In effetti, stiamo contribuendo ai gruppi di lavoro all’interno di organizzazioni di standardizzazione come MITRE, OWASP e NIST”.
Oltre a prevenire risultati dannosi, Cisco affronta le vulnerabilità dei modelli di intelligenza artificiale rispetto a influenze esterne dannose che possono modificarne il comportamento. Questi rischi includono attacchi di iniezione tempestiva, jailbreak e avvelenamento dei dati di formazione, ciascuno dei quali richiede misure preventive rigorose.
L’evoluzione porta nuove complessità
Frank Dickson, vicepresidente del gruppo per la sicurezza e la fiducia presso IDCha fornito la sua opinione sull'evoluzione della sicurezza informatica nel tempo e su cosa significano i progressi nell'intelligenza artificiale per il settore.
“La prima macrotendenza è stata il passaggio dall'on-premise al cloud, introducendo tutta una serie di nuove problematiche che dovevamo affrontare. E poi, man mano che le applicazioni passano da monolitiche a microservizi, abbiamo visto tutta una serie di nuovi set di problemi.
“L'intelligenza artificiale e l'aggiunta di LLM… stessa cosa, tutta una serie di nuovi problemi.”
Le complessità della sicurezza dell’intelligenza artificiale aumentano man mano che le applicazioni diventano multi-modello. Le vulnerabilità possono sorgere a vari livelli, dai modelli alle app, coinvolgendo diverse parti interessate come sviluppatori, utenti finali e fornitori.
“Una volta che un'applicazione veniva spostata dall'on-premise al cloud, in un certo senso rimaneva lì. Sì, abbiamo sviluppato applicazioni su più cloud, ma una volta inserita un'applicazione in AWS o Azure o GCP, non la spostavi tra i vari ambienti cloud mensilmente, trimestralmente, settimanalmente, giusto?
“Quando si passa dallo sviluppo di applicazioni monolitiche ai microservizi, si resta lì. Una volta inserita un'applicazione in Kubernetes, non torni più a qualcos'altro.
“Mentre cerchi di garantire un LLM, la cosa importante da notare sono i cambiamenti del modello. E quando parliamo di cambiamento del modello, non è come se fosse una revisione… questa settimana forse (gli sviluppatori stanno) usando Anthropic, la prossima settimana potrebbero usare Gemini.
“Sono completamente diversi e i vettori di minaccia di ciascun modello sono completamente diversi. Hanno tutti i loro punti di forza e tutti hanno le loro drammatiche debolezze”.
A differenza delle misure di sicurezza convenzionali integrate nei singoli modelli, Cisco offre controlli per un ambiente multi-modello attraverso le sue soluzioni appena annunciate Difesa dell'IA. La soluzione si auto-ottimizza e utilizza gli algoritmi di machine learning proprietari di Cisco per identificare i problemi di sicurezza e protezione dell'IA in evoluzione, sulla base dell'intelligence sulle minacce di Cisco Talos.
Adattarsi alla nuova normalità
Jeetu Patel, vicepresidente esecutivo e chief product officer di Cisco, ha condiviso la sua opinione secondo cui i grandi progressi avvenuti in un breve periodo di tempo sembrano sempre rivoluzionari ma diventano presto normali.
“Waymo sono le auto a guida autonoma di Google. Entri e non c'è nessuno seduto in macchina, e ti porta dal punto A al punto B. È incredibilmente sorprendente, come se vivessimo nel futuro. La seconda volta ti ci abitui. La terza volta inizi a lamentarti dei posti.
“Nonostante la rapidità con cui ci siamo abituati all'intelligenza artificiale e a ChatGPT nel corso degli ultimi due anni, penso che ciò che accadrà è che qualsiasi progresso importante sembrerà eccezionalmente progressivo per un breve periodo di tempo. Poi avviene una normalizzazione in cui tutti iniziano ad abituarsi.
Patel ritiene che la normalizzazione avverrà anche con l’AGI. Tuttavia, osserva che “non si possono sottovalutare i progressi che questi modelli stanno iniziando a fare” e, in definitiva, il tipo di casi d’uso che sbloccheranno.
“Nessuno aveva pensato che avremmo avuto uno smartphone con una capacità di calcolo maggiore di un computer mainframe a portata di mano e che saremmo stati in grado di fare migliaia di cose in qualsiasi momento e ora è solo un altro modo di vivere. Mia figlia di 14 anni non ci pensa nemmeno.
“Dovremmo assicurarci che noi, come aziende, ci adattiamo a questa situazione molto rapidamente”.
Vedi anche: Sam Altman, OpenAI: “Fortunato e umiliante” lavorare verso la superintelligenza
Vuoi saperne di più sull'intelligenza artificiale e sui big data dai leader del settore? Guardare Fiera dell'intelligenza artificiale e dei big data che si svolge ad Amsterdam, in California, e a Londra. L'evento completo è collocato in contemporanea con altri eventi importanti, tra cui Conferenza sull'automazione intelligente, BlockX, Settimana della trasformazione digitaleE Fiera sulla sicurezza informatica e sul cloud.
Esplora altri prossimi eventi e webinar sulla tecnologia aziendale forniti da TechForge Qui.
Fonte: www.artificialintelligence-news.com
