I sistemi di intelligenza artificiale autonomi stanno iniziando ad andare oltre gli ambienti software e ad entrare in magazzini, reti di consegna e spazi pubblici. Lo sviluppo sta attirando l’attenzione sul fatto che le attuali regole sull’IA coprano sistemi che operano in ambienti fisici.
La maggior parte dei quadri di governance dell’IA esistenti si sono concentrati sui danni online e sui risultati dei modelli, inclusi pregiudizi, disinformazione e contenuti dannosi. I sistemi di intelligenza artificiale incorporata comportano rischi in ambienti fisici, dove i guasti possono compromettere le infrastrutture, la proprietà o la sicurezza umana.
Il 20 maggio la Infocomm Media Development Authority di Singapore ha pubblicato la versione 1.5 del suo Model AI Governance Framework for Agentic AI. Il framework fornisce linee guida per le organizzazioni che implementano agenti AI in grado di pianificare, prendere decisioni e intraprendere azioni attraverso più passaggi per completare obiettivi definiti dall’utente.
Il framework afferma che gli agenti possono interagire con strumenti, sistemi esterni e altri agenti, inclusi i sistemi che aggiornano database, scrivono file, controllano dispositivi o eseguono transazioni. Elenca i controlli di accesso, il monitoraggio e l’approvazione umana tra le misure di governance per la distribuzione.
L’intelligenza artificiale si sposta nei sistemi fisici
Al vertice sull’intelligenza artificiale tenutosi a Singapore la scorsa settimana, le discussioni sulla robotica e sull’intelligenza artificiale incorporata si sono concentrate su questioni di sicurezza operativa più comunemente associate all’aviazione, ai sistemi industriali e alla supervisione delle infrastrutture critiche rispetto alla regolamentazione del software convenzionale.
I relatori hanno anche discusso se i sistemi autonomi possano funzionare in modo sicuro e affidabile in ambienti reali imprevedibili per periodi prolungati.
Il dottor Ya-Qin Zhang, preside fondatore dell’Istituto per la ricerca sull’industria dell’intelligenza artificiale presso l’Università di Tsinghua, ha affermato che i sistemi di intelligenza artificiale incorporata amplificano i rischi già associati al software autonomo. Ha affermato che i guasti possono influenzare direttamente i sistemi di trasporto, i droni, le reti logistiche e le infrastrutture critiche.
“Qualsiasi rischio nel dominio digitale sarà amplificato nel dominio fisico, e il dominio fisico avrà una conseguenza fisica”, ha detto Zhang MLex a margine del vertice.
Ha aggiunto che veicoli, droni, reti intelligenti e altre infrastrutture potrebbero essere esposti poiché i sistemi di intelligenza artificiale sono integrati più profondamente nelle operazioni fisiche.
I relatori hanno discusso dell’affidabilità, del monitoraggio operativo e della garanzia post-implementazione come questioni di governance. Le discussioni del vertice hanno sottolineato modelli di governance basati sulla distribuzione, basati su simulazione, telemetria e test iterativi, piuttosto che sulla sola certificazione una tantum.
La struttura dell’IMDA raccomanda inoltre implementazioni graduali, monitoraggio continuo e ulteriori test dopo l’implementazione. Dice che gli agenti interagiscono dinamicamente con il loro ambiente e non tutti i rischi possono essere previsti prima del rilascio.
Il monitoraggio diventa un problema di distribuzione
Grab, che sta pilotando veicoli autonomi e robot per le consegne nel distretto di Punggol di Singapore, ha affermato che la governance della distribuzione dipende in larga misura dalla simulazione, dai test e dal monitoraggio continuo.
“Facciamo molte simulazioni, facciamo molti test in corsi chiusi e aperti per assicurarci che i nostri robot siano affidabili”, ha detto Suthen Thomas Paradatheth, responsabile tecnologico di Grab, durante uno dei panel del summit.
“Prima di arrivare a centinaia di robot, ci assicuriamo di risolverlo prima nella simulazione e con alcuni robot”, ha aggiunto.
Grab ha anche sottolineato i sistemi di monitoraggio progettati per tenere traccia delle prestazioni dei robot e rilevare guasti imprevisti dopo l’implementazione.
“C’è una lunga serie di problemi che potrebbero emergere”, ha detto Paradatheth.
Il framework IMDA afferma che le organizzazioni dovrebbero valutare i casi d’uso dell’IA degli agenti in base all’accesso ai dati, all’accesso al sistema esterno, all’autonomia e alla complessità delle attività. Indica inoltre la portata e la reversibilità delle azioni degli agenti, il coinvolgimento di terze parti e la complessità complessiva del sistema.
Raccomanda inoltre di limitare l’accesso degli agenti a strumenti e sistemi, applicare autorizzazioni con privilegi minimi e definire procedure operative standard per i flussi di lavoro degli agenti. Le organizzazioni dovrebbero inoltre impostare meccanismi per mettere offline gli agenti in caso di malfunzionamento.
La responsabilità si estende a più attori
MLex hanno riferito che i sistemi di intelligenza artificiale incorporata possono coinvolgere diverse parti nelle fasi di sviluppo, produzione e implementazione. Tra questi figurano sviluppatori di intelligenza artificiale, produttori di robotica, fornitori di semiconduttori e operatori di infrastrutture.
MLex ha inoltre osservato che la responsabilità può essere più difficile da assegnare quando i sistemi continuano ad adattarsi dopo la distribuzione attraverso aggiornamenti software, telemetria e dati operativi.
L’IMDA afferma che le organizzazioni e gli esseri umani rimangono responsabili delle azioni degli agenti, anche quando gli agenti operano in modo autonomo. Il quadro richiede una chiara responsabilità lungo tutta la catena del valore dell’intelligenza artificiale, dai fornitori di modelli e piattaforme agli sviluppatori, ai fornitori di strumenti e agli utenti finali.
Applied Materials afferma che l’implementazione della robotica su larga scala è anche legata all’economia dei semiconduttori e all’integrazione dei sistemi. Om Nalamasu, chief technology officer dell’azienda, ha affermato che i sistemi robotici dipenderanno da sensori migliori, efficienza energetica, packaging avanzati e architetture informatiche.
Nalamasu ha affermato che i sistemi robotici richiederebbero progetti ad hoc adattati a specifici ecosistemi industriali piuttosto che un’unica soluzione per tutti gli ambienti.
Zhao Yuli, direttore strategico della startup cinese di robotica Galbot, ha affermato che Pechino sta dando priorità alla scala di implementazione e alla commercializzazione industriale attraverso banchi di prova sostenuti dal governo, partenariati industriali e iniziative di finanziamento a lungo termine.
Galbot ha implementato sistemi robotici umanoidi nelle operazioni di vendita al dettaglio, di magazzino e farmaceutiche in Cina. Questi includono negozi autonomi che operano 24 ore su 24. Zhao ha affermato che gli ambienti industriali semistrutturati diventeranno probabilmente un percorso di commercializzazione anticipato perché offrono condizioni operative più controllabili.
Il Giappone si sta concentrando maggiormente sulla definizione degli standard, sui set di dati sulla robotica e sulla governance della sicurezza. Il professor Yutaka Matsuo della Graduate School of Engineering dell’Università di Tokyo ha sottolineato un progetto della “AI Association” volto a raccogliere 100.000 ore di dati sulla robotica per supportare modelli di fondazione robotica.
Matsuo ha anche fatto riferimento all’AI Safety Institute giapponese e al processo AI di Hiroshima come parte di sforzi più ampi per sviluppare standard di governance per i sistemi di intelligenza artificiale incorporati con Singapore e altri paesi asiatici.
Singapore stabilisce controlli sugli agenti
Il quadro di Singapore definisce quattro aree di governance per l’intelligenza artificiale con agenti. Questi riguardano la valutazione anticipata del rischio, la responsabilità umana, i controlli tecnici e la responsabilità dell’utente finale. Il quadro li descrive come un processo iterativo piuttosto che come una valutazione una tantum.
Il quadro afferma che la supervisione umana deve essere adattata ai sistemi ad agenti perché la revisione continua di tutti i flussi di lavoro diventa poco pratica su larga scala. Raccomanda l’approvazione umana in punti di controllo significativi, comprese azioni ad alto rischio, azioni irreversibili e comportamenti anomali.
L’IMDA identifica anche i pregiudizi legati all’automazione e l’affaticamento da allerta come rischi quando gli esseri umani supervisionano agenti capaci. Si raccomanda di verificare la supervisione attraverso indicatori quali i tassi di intervento umano e i tempi di risposta e di utilizzare il monitoraggio automatizzato in tempo reale per segnalare comportamenti imprevisti.
Il framework afferma che agli utenti dovrebbe essere detto quali azioni può intraprendere un agente, a quali dati può accedere e quali responsabilità rimangono dell’utente. Raccomanda inoltre la formazione dei dipendenti sull’interazione uomo-agente, sulla supervisione e sulle competenze professionali necessarie per valutare i risultati degli agenti.
Le aziende testano l’intelligenza artificiale in flussi di lavoro regolamentati
JPMorgan sta implementando strumenti di intelligenza artificiale in tutta la sua attività globale di investment banking, ha detto Paul Uren, responsabile dell’investment banking per la regione Asia-Pacifico della banca. Reuters. La banca ha affermato che gli strumenti aiutano i banchieri ad accedere a più informazioni e a sintetizzarle con i sistemi interni. Vengono utilizzati anche per preparare contenuti e supportare il coinvolgimento dei clienti.
Lo ha detto il CEO di JPMorgan, Jamie Dimon Notizie Bloomberg che la banca assumerebbe più specialisti di intelligenza artificiale e meno banchieri tradizionali. Reuters hanno riferito che le banche globali stanno aumentando gli investimenti nell’intelligenza artificiale, rimodellando la forza lavoro e cambiando i ruoli lavorativi.
La banca è anche tra le organizzazioni selezionate autorizzate da Anthropic a utilizzare il suo modello di sicurezza informatica Mythos nell’ambito di un’iniziativa controllata nota come Project Glasswing. Secondo Anthropic, Mythos è in grado di rilevare vecchie vulnerabilità nei browser, nell’infrastruttura e nel software.
Reuters ha riferito che anche Goldman Sachs, Citigroup, Bank of America e Morgan Stanley hanno accesso o stanno testando Mythos, citando fonti e dirigenti dell’azienda.
Il quadro dell’IMDA include un caso di studio della OCBC Bank di Singapore sull’analisi della fonte della ricchezza. Il sistema analizza i documenti relativi al reddito e redige un promemoria sulla fonte di ricchezza. Non prende decisioni in materia di credito, onboarding o rischio in modo autonomo.
In tal caso, il flusso di lavoro è limitato all’autonomia a livello di attività e funziona solo se attivato da flussi di lavoro predefiniti. La revisione umana è necessaria nei punti decisionali critici e la convalida finale spetta ai revisori designati.
I robot entrano nell’uso industriale
In Giappone, secondo a Reuters sondaggio condotto da Nikkei Research dal 1 maggio al 15 maggio. Il sondaggio ha contattato 492 aziende, di cui 220 hanno risposto in condizione di anonimato.
Circa il 4% degli intervistati ha affermato di utilizzare già robot IA, il 5% prevede di implementarli e il 25% sta pensando di farlo. Il restante 66% ha dichiarato di non avere piani del genere.
I produttori di attrezzature per i trasporti sono stati il gruppo più attivo nel sondaggio, con l’80% che già utilizza robot IA o ne sta valutando l’implementazione. In confronto, il 94% degli intervistati del settore all’ingrosso ha dichiarato di non avere intenzione di implementare robot IA.
Tra le aziende che utilizzano, pianificano di utilizzare o prendono in considerazione i robot IA, il 71% ha scelto il settore manifatturiero come caso d’uso. Un altro 19% ha scelto attività pericolose, mentre l’11% ha scelto servizi rivolti al cliente.
Il governo giapponese si aspetta che i robot IA contribuiscano ad affrontare la cronica carenza di manodopera del paese e a sostenere la sua posizione nel campo della robotica industriale. Il Giappone ospita aziende di robotica tra cui Fanuc, Yaskawa Electric e Kawasaki Heavy Industries, ma deve affrontare la concorrenza di Cina e Stati Uniti nella robotica abilitata all’intelligenza artificiale.
Gli agenti al dettaglio si espandono oltre la ricerca
Walmart ha delineato i piani per utilizzare l’intelligenza artificiale degli agenti nei flussi di lavoro di acquisti, dipendenti, fornitori e sviluppatori.
Nel luglio 2025, il rivenditore ha annunciato piani per quattro “super agenti” basati sull’intelligenza artificiale. Sono progettati per acquirenti, dipendenti del negozio, fornitori, venditori e sviluppatori di software. Walmart ha affermato che questi agenti diventeranno il principale punto di ingresso per le interazioni IA tra questi gruppi.
Uno degli strumenti, Sparky, è già disponibile nell’app Walmart come assistente allo shopping generativo basato sull’intelligenza artificiale. Hari Vasudev, chief technology officer di Walmart negli Stati Uniti, ha affermato che la sua versione ampliata sarà in grado di riordinare gli articoli e pianificare eventi. Utilizzerebbe anche la visione artificiale per suggerire ricette basate sul contenuto del frigorifero di un acquirente.
Walmart sta inoltre sviluppando un super agente associato per i dipendenti dei negozi e il personale aziendale. È in fase di creazione un agente Marty separato per venditori, fornitori e inserzionisti. Il rivenditore sta anche lavorando a un super agente per sviluppatori per testare, creare e lanciare futuri strumenti di intelligenza artificiale.
La società ha rifiutato di dire se gli agenti sostituiranno i posti di lavoro. Dave Glick, vicepresidente senior dei sistemi aziendali aziendali, ha affermato che gli strumenti creeranno nuovi posti di lavoro, senza fornire ulteriori dettagli.
(Foto di Growtika)
Vedi anche: OpenAI apre il laboratorio AI di Singapore mentre IMDA aggiorna il framework AI
Vuoi saperne di più sull’intelligenza artificiale e sui big data dai leader del settore? Guardare Fiera dell’intelligenza artificiale e dei big data che si svolge ad Amsterdam, in California, e a Londra. L’evento completo è parte di TechEx ed è situato in concomitanza con altri importanti eventi tecnologici, clicca Qui per ulteriori informazioni
AI News è alimentato da Media TechForge. Esplora altri prossimi eventi e webinar sulla tecnologia aziendale Qui.
Fonte: www.artificialintelligence-news.com
