Gruppo europeo di difesa della protezione dei dati notte ha sporto denuncia contro OpenAI sull'incapacità dell'azienda di correggere informazioni imprecise generate da ChatGPT. Il gruppo sostiene che l'incapacità di OpenAI di garantire l'accuratezza dei dati personali trattati dal servizio viola il Regolamento generale sulla protezione dei dati (GDPR) nell'Unione Europea.
“Inventare informazioni false è di per sé piuttosto problematico. Ma quando si tratta di informazioni false sulle persone, ci possono essere gravi conseguenze”, ha affermato Maartje de Graaf, avvocato specializzato in protezione dei dati presso noyb.
“È chiaro che le aziende attualmente non sono in grado di far sì che chatbot come ChatGPT rispettino la legislazione europea quando trattano dati personali. Se un sistema non può produrre risultati accurati e trasparenti, non può essere utilizzato per generare dati sugli individui. La tecnologia deve seguire i requisiti legali e non viceversa”.
Il GDPR richiede che i dati personali siano accurati e gli individui hanno il diritto di rettifica se i dati sono imprecisi, nonché il diritto di accedere alle informazioni sui dati trattati e sulle loro fonti. Tuttavia, OpenAI ha ammesso apertamente di non poter correggere le informazioni errate generate da ChatGPT o rivelare le fonti dei dati utilizzati per addestrare il modello.
“L’accuratezza fattuale nei modelli linguistici di grandi dimensioni rimane un’area di ricerca attiva”, ha affermato OpenAI.
Il gruppo di difesa evidenzia un New York Times rapporto che ha rilevato che i chatbot come ChatGPT “inventano informazioni almeno il 3% delle volte – e fino al 27%”. Nella denuncia contro OpenAI, noyb cita un esempio in cui ChatGPT ha ripetutamente fornito una data di nascita errata per il denunciante, un personaggio pubblico, nonostante le richieste di rettifica.
“Nonostante la data di nascita del denunciante fornita da ChatGPT non sia corretta, OpenAI ha rifiutato la sua richiesta di rettificare o cancellare i dati, sostenendo che non era possibile correggere i dati”, ha affermato noyb.
OpenAI ha affermato di poter filtrare o bloccare i dati su determinati prompt, come il nome del denunciante, ma non senza impedire a ChatGPT di filtrare tutte le informazioni sull'individuo. L'azienda inoltre non ha risposto adeguatamente alla richiesta di accesso del denunciante, che il GDPR impone alle aziende di soddisfare.
“L’obbligo di ottemperare alle richieste di accesso vale per tutte le aziende. È chiaramente possibile tenere un registro dei dati di allenamento utilizzati per avere almeno un’idea delle fonti di informazione”, ha affermato de Graaf. “Sembra che con ogni 'innovazione' un altro gruppo di aziende pensi che i suoi prodotti non debbano essere conformi alla legge.”
Gli organi di vigilanza europei sulla privacy hanno già esaminato le inesattezze di ChatGPT, con l'imposizione dell'Autorità italiana per la protezione dei dati una restrizione temporanea sul trattamento dei dati di OpenAI nel marzo 2023 e il Comitato europeo per la protezione dei dati che istituisce una task force su ChatGPT.
Nella sua denuncia, noyb chiede all'autorità austriaca per la protezione dei dati di indagare sul trattamento dei dati di OpenAI e sulle misure per garantire l'accuratezza dei dati personali elaborati dai suoi grandi modelli linguistici. Il gruppo di pressione richiede inoltre che l'autorità ordini a OpenAI di soddisfare la richiesta di accesso del denunciante, di adeguare il suo trattamento al GDPR e di imporre una sanzione per garantire la futura conformità.
Potete leggere la denuncia completa Qui (PDF)
(Fotografato da Eleonora Francesca Grotta)
Guarda anche: Igor Jablokov, Pryon: Costruire un futuro responsabile dell'IA
Vuoi saperne di più sull'intelligenza artificiale e sui big data dai leader del settore? Guardare Fiera dell'intelligenza artificiale e dei big data che si svolge ad Amsterdam, in California, e a Londra. L'evento completo è collocato in contemporanea con altri eventi importanti, tra cui BlockX, Settimana della trasformazione digitaleE Fiera sulla sicurezza informatica e sul cloud.
Esplora altri prossimi eventi e webinar sulla tecnologia aziendale forniti da TechForge Qui.
Fonte: www.artificialintelligence-news.com
