Un nuovo libro bianco indaga i modelli e le funzioni delle istituzioni internazionali che potrebbero aiutare a gestire le opportunità e mitigare i rischi dell’intelligenza artificiale avanzata
La crescente consapevolezza dell’impatto globale dell’intelligenza artificiale avanzata (AI) ha ispirato il dibattito pubblico sulla necessità di strutture di governance internazionale per aiutare a gestire le opportunità e mitigare i rischi connessi.
Molte discussioni hanno fatto ricorso ad analogie con il ICAO (Organizzazione per l’Aviazione Civile Internazionale) nell’aviazione civile; CERN (Organizzazione Europea per la Ricerca Nucleare) nella fisica delle particelle; AIEA (Agenzia Internazionale per l’Energia Atomica) nella tecnologia nucleare; e organizzazioni intergovernative e multi-stakeholder in molti altri settori. Eppure, anche se le analogie possono essere un utile inizio, le tecnologie che emergono dall’intelligenza artificiale saranno diverse dall’aviazione, dalla fisica delle particelle o dalla tecnologia nucleare.
Per avere successo con la governance dell’IA, dobbiamo comprendere meglio:
- Quali benefici e rischi specifici dobbiamo gestire a livello internazionale.
- Quali funzioni di governance richiedono tali benefici e rischi.
- Quali organizzazioni possono fornire al meglio tali funzioni.
Il nostro ultimo articolocon collaboratori dell’Università di Oxford, dell’Università di Montréal, dell’Università di Toronto, della Columbia University, dell’Università di Harvard, dell’Università di Stanford e di OpenAI, affronta queste domande e indaga come le istituzioni internazionali potrebbero aiutare a gestire l’impatto globale dello sviluppo dell’IA di frontiera e assicurarsi I benefici dell’intelligenza artificiale raggiungono tutte le comunità.
Il ruolo critico delle istituzioni internazionali e multilaterali
L’accesso a determinate tecnologie di intelligenza artificiale potrebbe migliorare notevolmente la prosperità e la stabilità, ma i benefici di queste tecnologie potrebbero non essere distribuiti equamente o focalizzati sui maggiori bisogni delle comunità sottorappresentate o del mondo in via di sviluppo. Anche un accesso inadeguato ai servizi Internet, alla potenza di calcolo o alla disponibilità di formazione o competenze in materia di apprendimento automatico può impedire ad alcuni gruppi di beneficiare appieno dei progressi dell’intelligenza artificiale.
Le collaborazioni internazionali potrebbero aiutare ad affrontare questi problemi incoraggiando le organizzazioni a sviluppare sistemi e applicazioni che rispondano ai bisogni delle comunità svantaggiate e migliorando la situazione formazione scolasticainfrastrutture e ostacoli economici che impediscono a tali comunità di sfruttare appieno la tecnologia dell’intelligenza artificiale.
Inoltre, potrebbero essere necessari sforzi internazionali per gestire i rischi posti dalle potenti capacità di intelligenza artificiale. Senza adeguate garanzie, alcune di queste capacità – come lo sviluppo automatizzato di software, la ricerca chimica e di biologia sintetica e la generazione di testi e video – potrebbero essere utilizzate in modo improprio per causare danni. I sistemi avanzati di intelligenza artificiale potrebbero anche fallire in modi difficili da prevedere, creando rischi di incidenti con conseguenze potenzialmente internazionali se la tecnologia non viene utilizzata in modo responsabile.
Le istituzioni internazionali e multilaterali potrebbero contribuire a far avanzare i protocolli di sviluppo e implementazione dell’IA che riducono al minimo tali rischi. Ad esempio, potrebbero facilitare il consenso globale sulle minacce che le diverse capacità di intelligenza artificiale rappresentano per la società e stabilire standard internazionali sull’identificazione e il trattamento dei modelli con capacità pericolose. Le collaborazioni internazionali sulla ricerca sulla sicurezza migliorerebbero anche la nostra capacità di rendere i sistemi affidabili e resistenti agli abusi.
Infine, in situazioni in cui gli Stati hanno incentivi (ad esempio derivanti dalla concorrenza economica) per ridurre gli impegni normativi reciproci, le istituzioni internazionali possono contribuire a sostenere e incentivare le migliori pratiche e persino monitorare il rispetto degli standard.
Quattro potenziali modelli istituzionali
Esploriamo quattro modelli istituzionali complementari per supportare il coordinamento globale e le funzioni di governance:
- Un intergovernativo Commissione sull’IA di frontiera potrebbe creare un consenso internazionale sulle opportunità e sui rischi derivanti dall’IA avanzata e su come gestirli. Ciò aumenterebbe la consapevolezza e la comprensione del pubblico delle prospettive e delle problematiche dell’IA, contribuirebbe a un resoconto scientificamente informato dell’uso dell’IA e della mitigazione dei rischi e costituirebbe una fonte di competenze per i responsabili politici.
- Un intergovernativo o multi-stakeholder Organizzazione avanzata per la governance dell’intelligenza artificiale potrebbe aiutare a internazionalizzare e allineare gli sforzi per affrontare i rischi globali derivanti dai sistemi avanzati di intelligenza artificiale stabilendo norme e standard di governance e assistendo nella loro attuazione. Può anche svolgere funzioni di monitoraggio della conformità per qualsiasi regime di governance internazionale.
- UN Collaborazione AI di frontiera potrebbe promuovere l’accesso all’IA avanzata come partenariato internazionale pubblico-privato. In tal modo, aiuterebbe le società svantaggiate a beneficiare della tecnologia IA all’avanguardia e promuoverebbe l’accesso internazionale alla tecnologia IA per obiettivi di sicurezza e governance.
- UN Progetto sulla sicurezza dell’intelligenza artificiale potrebbe riunire ricercatori e ingegneri di spicco e fornire loro l’accesso a risorse di calcolo e modelli avanzati di intelligenza artificiale per la ricerca sulla mitigazione tecnica dei rischi dell’intelligenza artificiale. Ciò promuoverebbe la ricerca e lo sviluppo sulla sicurezza dell’IA aumentandone la portata, le risorse e il coordinamento.
Sfide operative
Rimangono molte importanti questioni aperte sulla fattibilità di questi modelli istituzionali. Ad esempio, una Commissione sull’IA avanzata dovrà affrontare sfide scientifiche significative data l’estrema incertezza sulle traiettorie e le capacità dell’IA e la limitata ricerca scientifica sulle questioni legate all’IA avanzata fino ad oggi.
Il rapido tasso di progresso dell’IA e la capacità limitata del settore pubblico sulle questioni legate all’IA di frontiera potrebbero anche rendere difficile per un’organizzazione di governance avanzata dell’IA stabilire standard che tengano il passo con il panorama dei rischi. Le numerose difficoltà del coordinamento internazionale sollevano interrogativi su come i paesi saranno incentivati ad adottare i suoi standard o ad accettarne il monitoraggio.
Allo stesso modo, i numerosi ostacoli che impediscono alle società di sfruttare appieno i vantaggi dei sistemi avanzati di intelligenza artificiale (e di altre tecnologie) potrebbero impedire a una collaborazione di intelligenza artificiale di frontiera di ottimizzare il proprio impatto. Potrebbe anche esserci una tensione difficile da gestire tra la condivisione dei benefici dell’IA e la prevenzione della proliferazione di sistemi pericolosi.
E per il progetto AI Safety, sarà importante considerare attentamente quali elementi della ricerca sulla sicurezza sono meglio condotti attraverso collaborazioni rispetto agli sforzi individuali delle aziende. Inoltre, un progetto potrebbe avere difficoltà a garantire un accesso adeguato ai modelli più capaci di condurre ricerche sulla sicurezza da parte di tutti gli sviluppatori pertinenti.
Date le immense opportunità e sfide globali presentate dai sistemi di intelligenza artificiale all’orizzonte, è necessaria una maggiore discussione tra i governi e le altre parti interessate sul ruolo delle istituzioni internazionali e su come le loro funzioni possono promuovere la governance e il coordinamento dell’IA.
Ci auguriamo che questa ricerca contribuisca a far crescere le conversazioni all’interno della comunità internazionale sui modi per garantire che l’intelligenza artificiale avanzata venga sviluppata a beneficio dell’umanità.
