Assistenti IA di prossima generazione in fase di sviluppo nell’ecosistema Apple e da produttori di chip come Qualcomm, ma i primi rapporti suggeriscono che vengono progettati con dei limiti.
La guida di Tom ha descritto le prime versioni di questi assistenti come in grado di navigare nelle app, effettuare prenotazioni e gestire attività nei servizi. Ad esempio, un sistema di agenti beta privato ha completato attività come la prenotazione di servizi o la pubblicazione di contenuti nelle app. In un test, si è spostato attraverso il flusso di lavoro dell’app e ha raggiunto una schermata di pagamento prima di chiedere conferma all’utente.
Gli agenti IA vengono creati con checkpoint di approvazione. Le azioni sensibili, in particolare quelle legate ai pagamenti o alle modifiche dell’account, richiedono la conferma dell’utente prima di essere completate. Il modello “human-in-the-loop” consente al sistema di preparare un’azione, ma lascia l’approvazione all’utente. La ricerca legata al lavoro sull’intelligenza artificiale di Apple ha esplorato modi per garantire che i sistemi vengano messi in pausa prima di intraprendere azioni che gli utenti non hanno esplicitamente richiesto.
Le app bancarie richiedono già la conferma per i bonifici. La stessa idea viene ora applicata alle azioni guidate dall’intelligenza artificiale in più servizi.
Limiti e controllo
Un livello di controllo deriva dalla limitazione di ciò a cui l’intelligenza artificiale può accedere. Invece di fornire al sistema pieno accesso ad app e dati, le aziende stanno stabilendo limiti, ad esempio con quali app l’intelligenza artificiale può interagire e quando le azioni possono essere attivate.
In pratica, ciò significa che l’IA potrebbe essere in grado di elaborare un acquisto o preparare una prenotazione, ma non di finalizzarla senza approvazione. Significa anche che il sistema non può muoversi liberamente in tutti i servizi a meno che non gli sia stata concessa l’autorizzazione.
Secondo La guida di Tomla struttura è per la privacy. Se i dati rimangono sul dispositivo, elimina la necessità di inviare informazioni sensibili a server esterni.
In aree come i pagamenti, ci si aspetta che i sistemi di intelligenza artificiale collaborino con partner che dispongono già di regole rigide. In un esempio riportato, i servizi dei fornitori di servizi di pagamento vengono integrati per fornire un’autenticazione sicura prima che le transazioni vengano completate, sebbene tali misure di salvaguardia siano ancora in fase di sviluppo. I sistemi esistenti fungono da ulteriore livello di supervisione. Possono impostare limiti di transazione o richiedere una verifica aggiuntiva.
Gran parte della discussione sulla governance dell’IA si è concentrata sull’uso aziendale. Ciò include aree come la sicurezza informatica e l’automazione su larga scala. Il lato consumatore introduce una sfida diversa e le aziende devono progettare controlli che funzionino per gli utenti di tutti i giorni. Ciò significa passaggi di approvazione chiari e protezioni della privacy integrate.
Autonomia con confini
Man mano che l’intelligenza artificiale acquisisce la capacità di eseguire azioni, i rischi diventano maggiori poiché gli errori possono portare a perdite finanziarie o all’esposizione dei dati.
Posizionando i controlli su più punti, tra cui approvazione e infrastruttura, le aziende stanno cercando di gestire tali rischi.
L’approccio potrebbe influenzare il modo in cui l’intelligenza artificiale si svilupperà nel breve termine. Piuttosto che puntare alla piena indipendenza, le aziende sembrano focalizzate su ambienti controllati in cui i rischi possono essere gestiti.
(Foto di Junseong Lee)
Vuoi saperne di più sull’intelligenza artificiale e sui big data dai leader del settore? Guardare Fiera dell’intelligenza artificiale e dei big data che si svolge ad Amsterdam, in California, e a Londra. L’evento completo è parte di TechEx e co-localizzato con altri importanti eventi tecnologici. Clic Qui per ulteriori informazioni
AI News è alimentato da Media TechForge. Esplora altri prossimi eventi e webinar sulla tecnologia aziendale Qui.
Fonte: www.artificialintelligence-news.com
