L'Assemblea dello Stato della California ha approvato il Legge sull'innovazione sicura e protetta per i modelli di intelligenza artificiale di frontiera (SB 1047).
Il disegno di legge, che ha scatenato un intenso dibattito nella Silicon Valley e non solo, mira a imporre una serie di misure di sicurezza alle aziende di intelligenza artificiale che operano in California. Queste precauzioni devono essere implementate prima di addestrare modelli di base avanzati.
I requisiti principali del disegno di legge includono:
- Implementazione di meccanismi per l'arresto rapido e completo del modello
- Salvaguardare i modelli da “modifiche post-addestramento non sicure”
- Stabilire procedure di test per valutare i potenziali rischi dei modelli o dei loro derivati che causano “danni critici”
Il senatore Scott Wiener, autore principale della SB 1047, ha affermato: “Abbiamo lavorato duramente per tutto l'anno, con i sostenitori dell'open source, Anthropic e altri, per perfezionare e migliorare la proposta di legge. La SB 1047 è ben calibrata su ciò che sappiamo sui rischi prevedibili dell'IA e merita di essere promulgata”.
Il senatore ha sottolineato che il disegno di legge chiede semplicemente ai grandi laboratori di intelligenza artificiale di rispettare gli impegni assunti per testare i loro modelli estesi sui rischi catastrofici per la sicurezza.
Tuttavia, la proposta di legge ha incontrato l’opposizione di diverse parti, tra cui le aziende di intelligenza artificiale IA aperta e Anthropic, i politici Zoe Lofgren e Nancy Pelosi, e la Camera di Commercio della California. I critici sostengono che il disegno di legge pone un'attenzione eccessiva sui danni catastrofici e potrebbe colpire in modo sproporzionato i piccoli sviluppatori di IA open source.
In risposta a queste preoccupazioni, sono stati apportati diversi emendamenti al disegno di legge originale. Tali cambiamenti includono:
- Sostituire le possibili sanzioni penali con quelle civili
- Limitare i poteri esecutivi concessi al procuratore generale della California
- Modifica dei requisiti per l’adesione al “Board of Frontier Models” creato dal disegno di legge
Il prossimo passo per la SB 1047 è un voto al Senato dello Stato, dove si prevede che venga approvata. Se ciò dovesse accadere, la proposta di legge verrà poi presentata al governatore Gavin Newsom, che avrà tempo fino alla fine di settembre per prendere una decisione sulla sua promulgazione.
Come una delle prime importanti normative sull'IA negli Stati Uniti, l'approvazione della SB 1047 potrebbe creare un precedente per la legislazione futura. L'esito di questa legge potrebbe avere implicazioni di vasta portata per il settore dell'IA, influenzando potenzialmente lo sviluppo e l'implementazione di modelli di IA avanzati non solo in California, ma in tutta la nazione e oltre.
(Foto di Josh Hild)
Vedi anche: Le aziende cinesi sfruttano la scappatoia del cloud per accedere alla tecnologia AI statunitense
Vuoi saperne di più sull'intelligenza artificiale e sui big data dai leader del settore? Guardare Fiera AI e Big Data che si svolge ad Amsterdam, California e Londra. L'evento completo è co-localizzato con altri eventi leader tra cui Conferenza sull'automazione intelligente, BloccoX, Settimana della Trasformazione DigitaleE Fiera della sicurezza informatica e del cloud.
Esplora altri prossimi eventi e webinar sulla tecnologia aziendale forniti da TechForge Qui.
Fonte: www.artificialintelligence-news.com
