Una coalizione di esperti, tra cui ex impiegati di Openi, ha espresso una forte opposizione al passaggio dell'azienda lontano dalle sue radici no profit.
In un Lettera aperta Rivolto ai procuratori generali della California e del Delaware, il gruppo – che comprende anche esperti legali, specialisti del governo societario, ricercatori di intelligenza artificiale e rappresentanti non profit – sostiene che le modifiche proposte minacciano fondamentalmente la missione di beneficenza originale di Openi.
Openi è stata fondata con una struttura unica. Il suo scopo fondamentale, sancito dai suoi articoli di incorporazione, è “garantire che l'intelligenza generale artificiale avvantaggi tutta l'umanità” piuttosto che servire “il guadagno privato di qualsiasi persona”.
I firmatari della lettera sostengono che la ristrutturazione pianificata-trasformando l'attuale sussidiaria a scopo di lucro (OpenAI-Foofit) controllata dall'entità no profit originale (Openai-non profit) in una società di benefici pubblici del Delaware (PBC)-smantellare le garanzie di governance cruciali.
Questo spostamento, sostengono i firmatari, trasferirebbe il massimo controllo sullo sviluppo e lo spiegamento di intelligenza generale artificiale potenzialmente trasformativa (Agi) da un'organizzazione benefica incentrata sul beneficio dell'umanità a un'impresa a scopo di lucro responsabile degli azionisti.
Visione originale di Openai: controllo senza scopo di lucro come baluardo
Openi definisce AGI come “sistemi altamente autonomi che superano gli umani nel lavoro economicamente prezioso”. Pur riconoscendo il potenziale di AGI di “elevare l'umanità”, la leadership di Openai ha anche avvertito di “grave rischio di uso improprio, incidenti drastici e interruzioni sociali”.
Il co-fondatore Sam Altman e altri hanno persino firmato dichiarazioni che equipaggiano i rischi di estinzione mitigazione della prevenzione di pandemie e della guerra nucleare.
I fondatori dell'azienda – tra cui Altman, Elon Musk e Greg Brockman – erano inizialmente preoccupati che l'AGI fosse sviluppata da entità puramente commerciali come Google. Hanno stabilito Openai come organizzazione no profit specificamente “non vincolata dalla necessità di generare un rendimento finanziario”. Come ha affermato Altman nel 2017, “le uniche persone a cui vogliamo essere responsabili sono l'umanità nel suo insieme”.
Anche quando Openai ha introdotto una filiale a “profitto limitato” nel 2019 per attirare gli investimenti necessari, ha sottolineato che il genitore no profit avrebbe mantenuto il controllo e che la missione è rimasta fondamentale. Le garanzie chiave incluse:
- Controllo senza scopo di lucro: La filiale a scopo di lucro era esplicitamente “controllata dal consiglio di amministrazione di Openi non profit”.
- Profitti limitati: I rendimenti degli investitori sono stati limitati, con un eccesso di valore che risale al non profit a beneficio dell'umanità.
- Consiglio indipendente: La maggioranza dei membri del consiglio senza scopo di lucro doveva essere indipendente, non detenere alcuna partecipazione finanziaria nella controllata.
- Dovere fiduciario: Il dovere legale del consiglio era solo per la missione del non profit, non di massimizzare il profitto degli investitori.
- Proprietà AGI: Le tecnologie AGI erano esplicitamente riservate che il non profit governasse.
Lo stesso Altman ha testimoniato al Congresso nel 2023 che questa “struttura insolita” “assicura che rimane focalizzata sulla (sua) missione a lungo termine”.
Una minaccia alla missione?
I critici sostengono che il passaggio a una struttura PBC metterebbe a repentaglio queste garanzie:
- Subordinazione della missione: Un consiglio di amministrazione della PBC – sebbene in grado di considerare i benefici pubblici – avrebbe anche doveri agli azionisti, potenzialmente bilanciando il profitto contro la missione piuttosto che dare la priorità alla missione sopra ogni altra cosa.
- Perdita del dovere esecutivo: La struttura attuale dà agli avvocati generali il potere di far rispettare il dovere del non profit nei confronti del pubblico. In base a un PBC, questa responsabilità pubblica diretta – applicabile dai regolatori – probabilmente svanirebbe, lasciando le cause derivate degli azionisti come meccanismo di applicazione primaria.
- Profitti non sfacciati?: I rapporti suggeriscono che il limite di profitto potrebbe essere rimosso, potenzialmente riallocando una grande ricchezza futura dalla missione di benefici pubblici agli azionisti privati.
- Indipendenza del consiglio di amministrazione incerto: L'impegno per un consiglio di amministrazione indipendente dalla maggioranza che supervisiona lo sviluppo dell'intelligenza artificiale potrebbe scomparire.
- Turni di controllo AGI: La proprietà e il controllo dell'AGI probabilmente sarebbero inadempienti per il PBC e i suoi investitori, non il non profit incentrato sulla missione. I rapporti suggeriscono anche che Openai e Microsoft hanno discusso di rimuovere le restrizioni contrattuali sull'accesso di Microsoft alla futura AGI.
- Impegni charter a rischio: Impegni come la clausola “Stop-and-Assist” (mettono in pausa la concorrenza per aiutare un progetto AGI più sicuro e allineato) potrebbero non essere onorati da un'entità basata sul profitto.
Openi ha citato pubblicamente pressioni competitive (cioè attirare investimenti e talenti contro i concorrenti con strutture azionarie convenzionali) come ragioni del cambiamento.
Tuttavia, la lettera contrasta che il vantaggio competitivo non è lo scopo di beneficenza di Openi e che la sua struttura unica senza scopo di lucro è stata progettata per imporre determinati costi competitivi a favore della sicurezza e dei benefici pubblici.
“Ottenere un vantaggio competitivo abbandonando le garanzie di governance progettate per garantire che Openi rimanga fedele alla sua missione, a bilanciamento, a bilanciamento, avanzare la missione”, afferma la lettera.
Gli autori mettono inoltre in dubbio il motivo per cui OpenAI che abbandona il controllo senza scopo di lucro è necessario semplicemente per semplificare la struttura del capitale, suggerendo che la questione principale è la subordinazione degli interessi degli investitori alla missione. Sostengono che mentre il consiglio di amministrazione senza scopo di lucro può considerare gli interessi degli investitori se serve la missione, la ristrutturazione sembra mirata a consentire a tali interessi di prevalere a spese della missione.
Molti di questi argomenti sono stati anche spinti da Elon Musk nella sua azione legale contro Openi. All'inizio di questo mese, Openai Musk consolato Per presunto orchestrare una campagna “implacabile” e “dannosa” progettata per “abbattere Openi” dopo aver lasciato la compagnia anni fa e ha iniziato la società di AI rivale Xai.
Chiama per l'intervento
I firmatari della lettera aperta hanno sollecitato l'intervento, chiedendo risposte da Openi su come la ristrutturazione da un'organizzazione no profit serve la sua missione e perché le salvaguardie precedentemente considerate essenziali sono ora ostacoli.
Per più, i firmatari richiedono una sosta alla ristrutturazione, la conservazione del controllo no profit e altre garanzie e misure per garantire l'indipendenza del consiglio e la capacità di supervisionare la direzione in modo efficace in linea con lo scopo di beneficenza.
“La ristrutturazione proposta eliminerebbe le salvaguardie essenziali, consegnando efficacemente il controllo e i profitti da quella che potrebbe essere la tecnologia più potente mai creata a un'entità a scopo di lucro con doveri legali per dare la priorità ai rendimenti degli azionisti”, concludono i firmatari.
Vedi anche: Come giudica AI? Studia antropico i valori di Claude
Vuoi saperne di più sull'intelligenza artificiale e sui big da parte dei leader del settore? Guardare AI e Big Data Expo si svolge ad Amsterdam, in California e a Londra. L'evento completo è co-localizzato con altri eventi principali tra cui Conferenza di automazione intelligente, Blockx, Settimana di trasformazione digitaleE Cyber Security & Cloud Expo.
Esplora altri prossimi eventi tecnologici aziendali e webinar alimentati da TechForge Qui.
Fonte: www.artificialintelligence-news.com
