Cinque importanti senatori democratici hanno inviato una lettera a IA aperta Il CEO Sam Altman chiede chiarezza sulle pratiche di sicurezza e assunzione dell'azienda.
La lettera, firmata dai senatori Brian Schatz, Ben Ray Luján, Peter Welch, Mark R. Warner e Angus S. King, Jr., arriva in risposta ai recenti rapporti che mettono in dubbio l'impegno di OpenAI nei confronti dei suoi obiettivi dichiarati di sviluppo di un'intelligenza artificiale sicura e responsabile.
I senatori sottolineano l'importanza della sicurezza dell'IA per la competitività economica nazionale e la posizione geopolitica. Notano le partnership di OpenAI con il governo degli Stati Uniti e le agenzie di sicurezza nazionale per sviluppare strumenti di sicurezza informatica, sottolineando la natura critica dei sistemi di IA sicuri.
“La sicurezza nazionale ed economica sono tra le responsabilità più importanti del governo degli Stati Uniti e i sistemi di intelligenza artificiale non sicuri o comunque vulnerabili non sono accettabili”, afferma la lettera.
I legislatori hanno richiesto informazioni dettagliate su diverse aree chiave entro il 13 agosto 2024. Tra queste:
- L'impegno di OpenAI a dedicare il 20% delle sue risorse informatiche alla ricerca sulla sicurezza dell'intelligenza artificiale.
- La posizione dell'azienda sugli accordi di non denigrazione per dipendenti attuali ed ex dipendenti.
- Procedure che consentono ai dipendenti di segnalare problemi di sicurezza informatica e protezione.
- Protocolli di sicurezza per prevenire il furto di modelli di intelligenza artificiale, ricerche o proprietà intellettuale.
- L'adesione di OpenAI al proprio Codice di condotta per i fornitori in merito alle politiche di non ritorsione e ai canali di segnalazione delle irregolarità.
- Piani per test e valutazioni indipendenti dei sistemi OpenAI prima del rilascio.
- Impegno a rendere disponibili i futuri modelli di base alle agenzie governative degli Stati Uniti per i test pre-implementazione.
- Pratiche di monitoraggio post-rilascio e insegnamenti tratti dai modelli implementati.
- Piani per la pubblicazione di valutazioni retrospettive dell'impatto sui modelli implementati.
- Documentazione sul rispetto degli impegni volontari in materia di sicurezza e protezione assunti dall'amministrazione Biden-Harris.
L'inchiesta dei senatori tocca le recenti controversie che circondano OpenAI, tra cui segnalazioni di dispute interne su pratiche di sicurezza e presunte violazioni della sicurezza informatica. Chiedono specificamente se OpenAI “si impegnerà a rimuovere qualsiasi altra disposizione dai contratti di lavoro che potrebbe essere utilizzata per penalizzare i dipendenti che sollevano pubblicamente preoccupazioni sulle pratiche aziendali”.
Questo controllo del Congresso giunge in un momento di crescente dibattito sulla regolamentazione dell'intelligenza artificiale e misure di sicurezza. La lettera fa riferimento agli impegni volontari assunti dalle principali aziende di intelligenza artificiale alla Casa Bianca lo scorso anno, inquadrandoli come “un passo importante verso la costruzione di questa fiducia” nella sicurezza e nella protezione dell'intelligenza artificiale.
Kamala Harris potrebbe essere il prossimo presidente degli Stati Uniti dopo le elezioni di quest'anno. Al Vertice sulla sicurezza dell'IA nel Regno Unito l'anno scorso, Harris ha affermato: “Siamo chiari, ci sono minacce aggiuntive che richiedono anche la nostra azione. Minacce che stanno attualmente causando danni e che per molte persone sono anche percepite come esistenziali… quando le persone in tutto il mondo non riescono a distinguere i fatti dalla finzione a causa di un'ondata di miti e disinformazione abilitati dall'intelligenza artificiale”.
Chelsea Alves, consulente presso Signorina ONUha commentato: “L'approccio di Kamala Harris all'intelligenza artificiale e alla regolamentazione delle grandi tecnologie è sia tempestivo che critico mentre entra nella corsa presidenziale. Le sue politiche potrebbero stabilire nuovi standard per il modo in cui affrontiamo le complessità della tecnologia moderna e della privacy individuale”.
La risposta di OpenAI a queste richieste potrebbe avere implicazioni significative per il futuro della governance dell'intelligenza artificiale e per il rapporto tra aziende tecnologiche e organi di controllo governativi.
(Fotografato da Darren Halstead)
Guarda anche: OpenResearch rivela i potenziali impatti del reddito di base universale
Vuoi saperne di più sull'intelligenza artificiale e sui big data dai leader del settore? Guardare Fiera AI e Big Data che si svolge ad Amsterdam, California e Londra. L'evento completo è co-localizzato con altri eventi leader tra cui Conferenza sull'automazione intelligente, BloccoX, Settimana della Trasformazione DigitaleE Fiera della sicurezza informatica e del cloud.
Esplora altri prossimi eventi e webinar sulla tecnologia aziendale forniti da TechForge Qui.
Fonte: www.artificialintelligence-news.com
