IA aperta ha aggiunto la sua voce al crescente coro di leader tecnologici e politici che si oppongono a una controversa legge sulla sicurezza dell'IA in California. L'azienda sostiene che la legislazione, SB 1047soffocherebbe l'innovazione e la regolamentazione dovrebbe essere gestita a livello federale.
In una lettera inviata all'ufficio del senatore dello Stato della California Scott Wiener, OpenAI ha espresso preoccupazioni sul fatto che il disegno di legge potrebbe avere implicazioni “ampie e significative” per la competitività e la sicurezza nazionale degli Stati Uniti. L'azienda ha sostenuto che SB 1047 avrebbe minacciato la posizione della California come leader globale nell'intelligenza artificiale, spingendo i talenti a cercare “maggiori opportunità altrove”.
Presentato dal senatore Wiener, il disegno di legge mira a emanare “standard di sicurezza di buon senso” per le aziende che sviluppano grandi modelli di intelligenza artificiale che superano specifiche soglie di dimensioni e costi. Questi standard richiederebbero alle aziende di implementare meccanismi di arresto, adottare “ragionevoli precauzioni” per prevenire esiti catastrofici e presentare dichiarazioni di conformità al procuratore generale della California. La mancata conformità potrebbe comportare azioni legali e sanzioni civili.
Il tenente generale John (Jack) Shanahan, che ha prestato servizio nell'aeronautica militare statunitense ed è stato il direttore inaugurale del Centro congiunto per l'intelligenza artificiale (JAIC) del Dipartimento della Difesa statunitense, ritiene che il disegno di legge “affronti attentamente i gravi rischi che l'intelligenza artificiale pone sia alla società civile che alla sicurezza nazionale” e fornisca “soluzioni pragmatiche”.
L'Onorevole Andrew C. Weber, ex Assistente Segretario della Difesa per i Programmi di Difesa Nucleare, Chimica e Biologica, ha riecheggiato le preoccupazioni sulla sicurezza nazionale.
“Il furto di un potente sistema di intelligenza artificiale da un laboratorio leader da parte dei nostri avversari imporrebbe rischi considerevoli a tutti noi”, ha affermato Weber. “Gli sviluppatori dei sistemi di intelligenza artificiale più avanzati devono adottare importanti precauzioni di sicurezza informatica, dati i potenziali rischi coinvolti nel loro lavoro. Sono contento di vedere che la SB 1047 aiuta a stabilire le misure di protezione necessarie”.
La SB 1047 ha scatenato una forte opposizione da parte di importanti aziende tecnologiche, startup e venture capitalist che sostengono che esagera per una tecnologia nascente, soffocando potenzialmente l'innovazione e allontanando le aziende dallo stato. Queste preoccupazioni sono riecheggiate da OpenAI, con fonti che rivelano che l'azienda ha sospeso i piani di espansione dei suoi uffici di San Francisco a causa dell'incerto panorama normativo.
Senatore Wiener difeso il disegno di legge, affermando che la lettera di OpenAI non riesce a “criticare una singola disposizione”. Ha liquidato le preoccupazioni sull'esodo dei talenti come “insensate”, affermando che la legge si applicherebbe a qualsiasi azienda che svolga attività in California, indipendentemente dalla sua ubicazione fisica. Wiener ha evidenziato il requisito “altamente ragionevole” del disegno di legge per i grandi laboratori di intelligenza artificiale di testare i loro modelli per rischi di sicurezza catastrofici, una pratica a cui molti si sono già impegnati.
I critici, tuttavia, ribattono che rendere obbligatoria la presentazione dei dettagli del modello al governo ostacolerà l'innovazione. Temono anche che la minaccia di azioni legali scoraggerà gli sviluppatori open source più piccoli dal creare startup. In risposta alla reazione negativa, il senatore Wiener ha recentemente modificato il disegno di legge per eliminare la responsabilità penale per le aziende non conformi, salvaguardare gli sviluppatori più piccoli e rimuovere la proposta “Frontier Model Division”.
OpenAI sostiene che un quadro federale chiaro, piuttosto che una regolamentazione a livello statale, è essenziale per preservare la sicurezza pubblica mantenendo al contempo la competitività degli Stati Uniti rispetto a rivali come la Cina. L'azienda ha evidenziato l'idoneità delle agenzie federali, come il White House Office of Science and Technology Policy e il Department of Commerce, a governare i rischi dell'IA.
Il senatore Wiener ha riconosciuto l'ideale di un'azione del Congresso, ma ha espresso scetticismo sulla sua probabilità. Ha tracciato parallelismi con la legge sulla privacy dei dati della California, approvata in assenza di un'azione federale, suggerendo che l'inazione del Congresso non dovrebbe impedire alla California di assumere un ruolo guida.
L'assemblea dello stato della California è pronta a votare sulla SB 1047 questo mese. Se approvata, la proposta di legge finirà sulla scrivania del governatore Gavin Newsom, la cui posizione sulla legislazione rimane poco chiara. Tuttavia, Newsom ha pubblicamente riconosciuto la necessità di bilanciare l'innovazione dell'IA con la mitigazione del rischio.
(Foto di Solenne in Fey)
Vedi anche: OpenAI fornisce la messa a punto di GPT-4o
Vuoi saperne di più sull'intelligenza artificiale e sui big data dai leader del settore? Guardare Fiera AI e Big Data che si svolge ad Amsterdam, California e Londra. L'evento completo è co-localizzato con altri eventi leader tra cui Conferenza sull'automazione intelligente, BloccoX, Settimana della Trasformazione DigitaleE Fiera della sicurezza informatica e del cloud.
Esplora altri prossimi eventi e webinar sulla tecnologia aziendale forniti da TechForge Qui.
Fonte: www.artificialintelligence-news.com
