L'etica degli assistenti avanzati di intelligenza artificiale | Intelligenza-Artificiale

Esplorare le promesse e i rischi di un futuro con un’intelligenza artificiale più capace

Immagina un futuro in cui interagiamo regolarmente con una gamma di assistenti avanzati di intelligenza artificiale (AI) e in cui milioni di assistenti interagiscono tra loro per nostro conto. Queste esperienze e interazioni potrebbero presto diventare parte della nostra realtà quotidiana.

I modelli di base per scopi generali stanno aprendo la strada ad assistenti IA sempre più avanzati. Capaci di pianificare ed eseguire un'ampia gamma di azioni in linea con gli obiettivi di una persona, potrebbero aggiungere immenso valore alla vita delle persone e alla società, fungendo da partner creativi, analisti di ricerca, tutor educativi, pianificatori di vita e altro ancora.

Potrebbero anche dare vita a una nuova fase di interazione umana con l’intelligenza artificiale. Questo è il motivo per cui è così importante pensare in modo proattivo a come potrebbe essere questo mondo e contribuire a orientare in anticipo il processo decisionale responsabile e i risultati positivi.

Nostro nuova carta è la prima trattazione sistematica delle questioni etiche e sociali che gli assistenti avanzati di intelligenza artificiale sollevano per gli utenti, gli sviluppatori e le società in cui sono integrati e fornisce nuove e significative informazioni sul potenziale impatto di questa tecnologia.

Trattiamo argomenti come l'allineamento dei valori, la sicurezza e l'abuso, l'impatto sull'economia, l'ambiente, la sfera dell'informazione, l'accesso e le opportunità e altro ancora.

Questo è il risultato di uno dei nostri più grandi progetti di previsione etica fino ad oggi. Riunendo un’ampia gamma di esperti, abbiamo esaminato e mappato il nuovo panorama tecnico e morale di un futuro popolato da assistenti di intelligenza artificiale e abbiamo caratterizzato le opportunità e i rischi che la società potrebbe affrontare. Qui descriviamo alcuni dei nostri punti chiave.

Gli assistenti avanzati di intelligenza artificiale potrebbero avere un profondo impatto sugli utenti e sulla società ed essere integrati nella maggior parte degli aspetti della vita delle persone. Ad esempio, le persone potrebbero chiedere loro di prenotare le vacanze, gestire il tempo sociale o svolgere altri compiti della vita. Se implementati su larga scala, gli assistenti IA potrebbero influenzare il modo in cui le persone affrontano il lavoro, l’istruzione, i progetti creativi, gli hobby e l’interazione sociale.

Nel tempo, gli assistenti AI potrebbero anche influenzare gli obiettivi che le persone perseguono e il loro percorso di sviluppo personale attraverso le informazioni e i consigli forniti dagli assistenti e le azioni che intraprendono. In definitiva, ciò solleva importanti domande su come le persone interagiscono con questa tecnologia e su come può supportare al meglio i loro obiettivi e aspirazioni.

Gli assistenti IA avranno probabilmente un livello significativo di autonomia nella pianificazione e nell’esecuzione di sequenze di attività in una vasta gamma di ambiti. Per questo motivo, gli assistenti IA presentano nuove sfide in termini di sicurezza, allineamento e uso improprio.

Con una maggiore autonomia aumenta il rischio di incidenti causati da istruzioni poco chiare o interpretate erroneamente, nonché un rischio maggiore che gli assistenti intraprendano azioni disallineate con i valori e gli interessi dell'utente.

Assistenti IA più autonomi potrebbero anche consentire forme di abuso ad alto impatto, come la diffusione di disinformazione o il coinvolgimento in attacchi informatici. Per affrontare questi potenziali rischi, sosteniamo che sia necessario fissare dei limiti a questa tecnologia e che i valori degli assistenti avanzati di intelligenza artificiale debbano allinearsi meglio ai valori umani ed essere compatibili con ideali e standard sociali più ampi.

In grado di comunicare in modo fluido utilizzando il linguaggio naturale, i risultati scritti e le voci degli assistenti avanzati di intelligenza artificiale potrebbero diventare difficili da distinguere da quelli degli esseri umani.

Questo sviluppo apre una serie complessa di domande su fiducia, privacy, antropomorfismo e relazioni umane appropriate con l’intelligenza artificiale: come possiamo garantire che gli utenti possano identificare in modo affidabile gli assistenti IA e mantenere il controllo delle loro interazioni con loro? Cosa si può fare per garantire che gli utenti non vengano indebitamente influenzati o fuorviati nel tempo?

È necessario mettere in atto misure di salvaguardia, come quelle relative alla privacy, per affrontare questi rischi. È importante sottolineare che le relazioni delle persone con gli assistenti IA devono preservare l’autonomia dell’utente, sostenere la sua capacità di prosperare e non fare affidamento sulla dipendenza emotiva o materiale.

Se questa tecnologia diventasse ampiamente disponibile e implementata su larga scala, gli assistenti avanzati di intelligenza artificiale dovranno interagire tra loro, con utenti e non utenti. Per contribuire ad evitare problemi di azione collettiva, questi assistenti devono essere in grado di cooperare con successo.

Ad esempio, migliaia di assistenti potrebbero provare a prenotare lo stesso servizio per i propri utenti nello stesso momento, provocando il crash del sistema. In uno scenario ideale, questi assistenti IA si coordinerebbero invece per conto degli utenti umani e dei fornitori di servizi coinvolti per scoprire un terreno comune che soddisfi meglio le preferenze e le esigenze delle diverse persone.

Considerando l’utilità che questa tecnologia può diventare, è anche importante che nessuno ne sia escluso. Gli assistenti IA dovrebbero essere ampiamente accessibili e progettati tenendo conto delle esigenze dei diversi utenti e non utenti.

Gli assistenti IA potrebbero mostrare nuove capacità e utilizzare strumenti in nuovi modi difficili da prevedere, rendendo difficile anticipare i rischi associati alla loro implementazione. Per contribuire a gestire tali rischi, dobbiamo impegnarci in pratiche di previsione basate su test e valutazioni esaustivi.

La nostra precedente ricerca su valutare i rischi sociali ed etici derivanti dall’intelligenza artificiale generativa identificato alcune lacune nei metodi tradizionali di valutazione dei modelli e incoraggiamo molta più ricerca in questo ambito.

Ad esempio, valutazioni complete che affrontino sia gli effetti delle interazioni uomo-computer sia gli effetti più ampi sulla società potrebbero aiutare i ricercatori a capire come gli assistenti di intelligenza artificiale interagiscono con gli utenti, i non utenti e la società come parte di una rete più ampia. A loro volta, queste informazioni potrebbero favorire migliori mitigazioni e un processo decisionale responsabile.

Costruire il futuro che vogliamo

Potremmo trovarci di fronte a una nuova era di trasformazione tecnologica e sociale ispirata allo sviluppo di assistenti IA avanzati. Le scelte che facciamo oggi, come ricercatori, sviluppatori, politici e membri del pubblico guideranno il modo in cui questa tecnologia si svilupperà e verrà utilizzata nella società.

Ci auguriamo che il nostro documento funga da trampolino di lancio per ulteriore coordinamento e cooperazione per modellare collettivamente il tipo di utili assistenti IA che tutti vorremmo vedere nel mondo.