Eric Schmidt, ex CEO di Google, ha avvertito che l'uso improprio dell'IA rappresenta un “rischio estremo” e potrebbe fare danni catastrofici.
Parlando con la BBC Radio 4's Oggi Programma, Schmidt ha avvertito che l'IA potrebbe essere armonizzata da estremisti e “stati canaglia” come la Corea del Nord, l'Iran e la Russia per “danneggiare persone innocenti”.
Schmidt ha espresso preoccupazione per il fatto che i rapidi progressi di intelligenza artificiale potrebbero essere sfruttati per creare armi, compresi gli attacchi biologici. Evidenziando i pericoli, ha detto: “Le vere paure che ho non sono quelle che la maggior parte delle persone parla di AI, parlo di rischio estremo”.
Usando un'analogia agghiacciante, Schmidt ha fatto riferimento al leader di al-Qaeda responsabile degli attacchi dell'11 settembre: “Sono sempre preoccupato per lo scenario di Osama Bin Laden, in cui hai una persona veramente malvagia che assume alcuni aspetti della nostra vita moderna e lo usa per danneggiare persone innocenti. “
Ha sottolineato il ritmo dello sviluppo dell'IA e il suo potenziale per essere cooptato da nazioni o gruppi con intento malevolo.
“Pensa alla Corea del Nord, all'Iran, o persino alla Russia, che hanno qualche obiettivo malvagio … potrebbero abusarlo e fare del male”, avverte Schmidt.
La supervisione senza soffocare l'innovazione
Schmidt ha esortato i governi a monitorare attentamente le società di tecnologia privata che pionieriscono la ricerca di intelligenza artificiale. Pur notando che i leader tecnologici sono generalmente a conoscenza delle implicazioni sociali dell'IA, possono prendere decisioni basate su valori diversi da quelli dei funzionari pubblici.
“La mia esperienza con i leader tecnologici è che hanno una comprensione dell'impatto che hanno, ma potrebbero dare un giudizio a valori diverso da quello che il governo farebbe”.
Schmidt ha anche approvato i controlli di esportazione introdotti sotto l'ex presidente degli Stati Uniti Joe Biden l'anno scorso per limitare la vendita di microchip avanzati. La misura mira a rallentare il progresso degli avversari geopolitici nella ricerca AI.
Divisioni globali sulla prevenzione dell'uso improprio dell'IA
Il veterano della tecnologia era a Parigi quando ha fatto le sue osservazioni, frequentando il AI Action SummitUn evento di due giorni che si è concluso martedì.
Il vertice, a cui ha partecipato 57 paesi, ha visto l'annuncio di un accordo sullo sviluppo dell'IA “inclusivo”. I firmatari includevano i principali attori come la Cina, l'India, Temae l'Unione africana.
Tuttavia, il Regno Unito e gli Stati Uniti hanno rifiutato di firmare il comunicato. Il governo del Regno Unito ha affermato che l'accordo mancava di “chiarezza pratica” e non ha affrontato “domande più difficili” critiche che circondano la sicurezza nazionale.
Schmidt ha messo in guardia da una regolamentazione eccessiva che potrebbe ostacolare i progressi in questo campo trasformativo. Ciò è stato ripreso dal vicepresidente statunitense JD Vance che ha avvertito che la regolamentazione pesante “avrebbe ucciso un'industria trasformativa proprio mentre sta decollando”.
Questa riluttanza ad approvare gli accordi internazionali riflette approcci divergenti alla governance dell'IA. L'UE ha sostenuto un quadro più restrittivo Per l'intelligenza artificiale, dare la priorità alle protezioni dei consumatori, mentre paesi come gli Stati Uniti e il Regno Unito stanno optando per strategie più agili e guidate dall'innovazione.
Schmidt ha sottolineato le conseguenze della stretta posizione normativa europea, prevedendo che la regione avrebbe perso ruoli pionieristici nell'intelligenza artificiale.
“La rivoluzione dell'IA, che è la rivoluzione più importante secondo me dall'elettricità, non sarà inventata in Europa”, ha osservato.
Dare priorità alla sicurezza nazionale e globale
I commenti di Schmidt sono sullo sfondo di un aumento del controllo sul potenziale a doppio uso di AI: la sua capacità di essere utilizzata sia per scopi benefici che dannosi.
Dai profondi alle armi autonome, l'IA pone una serie di rischi se lasciati senza misure per proteggersi dall'abuso. I leader ed esperti, tra cui Schmidt, stanno sostenendo un approccio equilibrato che promuove l'innovazione affrontando questi pericoli frontalmente.
Mentre la cooperazione internazionale rimane una questione complessa e controversa, il consenso generale è chiaro: senza salvaguardie, l'evoluzione dell'IA potrebbe avere conseguenze non intenzionali e potenzialmente catastrofiche.
(Foto di Guillaume Paumier Sotto CC di 3.0 licenza. Ritagliato sul paesaggio dalla versione originale.)
Vedi anche: NEPC: AI Sprint Risks Ambiente Catastrophe
Vuoi saperne di più sull'intelligenza artificiale e sui big da parte dei leader del settore? Guardare AI e Big Data Expo si svolge ad Amsterdam, in California e a Londra. L'evento completo è co-localizzato con altri eventi principali tra cui Conferenza di automazione intelligente, Blockx, Settimana di trasformazione digitaleE Cyber Security & Cloud Expo.
Esplora altri prossimi eventi tecnologici aziendali e webinar alimentati da TechForge Qui.
Fonte: www.artificialintelligence-news.com
