Un compagno di intelligenza artificiale sembra distopico, ma è diventato un filo conduttore nel dibattito più ampio sui pericoli dell’intelligenza artificiale generativa. Ciò a cui si riferisce è essenzialmente un agente conversazionale costruito per sostenere una relazione continua e personale con un utente, con la memoria e la personalità stabile che la mantengono coerente da una sessione all’altra.
L’attaccamento emotivo spesso deriva da questo design e rappresenta sempre più il punto di forza. Gran parte dell’uso è il gioco di ruolo casuale o semplicemente il desiderio di qualcosa che ti ricordi e, ai margini, la categoria sfuma negli assistenti ordinari. Ma poiché sempre più persone in Cina sono arrivate a trattare questi robot come una sorta di compagni emotivi, Pechino ha ora deciso che la pratica necessita di regole.
Le regole cinesi sull’intelligenza artificiale entrano in vigore il 15 luglio e, nei giorni precedenti la scadenza, le due app di intelligenza artificiale consumer più utilizzate nel paese hanno silenziosamente disattivato le funzionalità principali. Doubao di ByteDance ha detto agli utenti che la sua funzione di agente sarebbe andata offline il 15 luglio, citando “aggiustamenti delle funzioni del prodotto”, mentre Qwen di Alibaba ha detto che i suoi agenti umani e creati dagli utenti avrebbero smesso di funzionare il 10 luglio e i suoi servizi di agente più ampi cinque giorni dopo.
Leggi velocemente, sembra che la Cina stia disattivando gli agenti IA. Non lo è. Le regole tracciano una linea tra l’agente che fa il tuo lavoro e l’agente che ti tiene compagnia, ed è solo contro il secondo tipo che Pechino si è mossa.
Il regolamento è l Misure provvisorie per l’amministrazione dei servizi interattivi antropomorfi di intelligenza artificialerilasciato congiuntamente il 10 aprile 2026 dall’Amministrazione del Cyberspazio cinese e da quattro agenzie partner: la Commissione nazionale per lo sviluppo e la riforma, il Ministero dell’industria e della tecnologia dell’informazione, il Ministero della pubblica sicurezza e l’Amministrazione statale per la regolamentazione del mercato.
Copre servizi che simulano i tratti della personalità umana, i modelli di pensiero e gli stili di comunicazione per fornire un’interazione emotiva prolungata. Sono esclusi i robot del servizio clienti, le domande e risposte sulla conoscenza, gli assistenti sul posto di lavoro e gli strumenti di formazione e ricerca, a condizione che evitino un coinvolgimento emotivo prolungato. Si tratta del primo quadro nazionale dedicato nel suo genere e ha preso forma dopo una bozza di commento pubblico alla fine dello scorso anno.
Un problema di progettazione, non un divieto
Doubao e Qwen non sono caduti in un divieto. Si sono imbattuti in un conflitto di progettazione. Le misure richiedono che i servizi complementari gestiscano sistemi anti-dipendenza, emettano notifiche obbligatorie sull’utilizzo e offrano meccanismi di uscita istantanea, oltre al rilevamento in tempo reale della dipendenza malsana.
Tali richieste sono scomode con gli agenti creati per ricordare un utente, rimanere coerenti tra le sessioni e mantenere viva una relazione continua e, invece di aggiornare la funzionalità, ByteDance ha scelto di chiuderla. Alibaba sembra aver fatto la stessa chiamata. ByteDance ora indirizza gli utenti di Doubao a Maoxiang, un’app separata in cui possono creare nuovamente agenti; Alibaba non ha annunciato alcun percorso di migrazione equivalente per Qwen. Yuanbao di Tencent ha ritirato una caratteristica simile a giugno.
Il costo è ricaduto sugli utenti. Molti hanno pianto apertamente la chiusura di Weibo, con un poster che descrive gli agenti come supporto emotivo di lunga data e lamenta la mancanza di un modo semplice per esportare la cronologia delle chat. Doubao consentirà alle persone di visualizzare le proprie configurazioni e conversazioni in modalità di sola lettura fino al 15 ottobre di quest’anno, prima che i dati vengano elaborati secondo la sua politica sulla privacy e diventino irrecuperabili; Agli utenti Qwen non è stato concesso alcun periodo di grazia paragonabile, con i dati dell’agente impostati per la cancellazione permanente.
Cosa stabiliscono le regole cinesi sull’IA
La sostanza è più considerata di quanto suggerisca una brusca repressione. Ai fornitori è vietato offrire servizi di accompagnamento virtuale o di famiglia virtuale ai minori e devono ottenere il consenso del tutore prima di servire gli utenti di età inferiore ai 14 anni. Sono tenuti a creare “modalità minori” dedicate con limiti di tempo di utilizzo, promemoria per tornare all’interazione nel mondo reale e controlli parentali migliorati.
Devono inoltre individuare gli utenti in grave difficoltà e intervenire qualora qualcuno mostri segni di autolesionismo, comportamento suicida o gravi perdite finanziarie, rivolgendosi a tutori designati o contatti di emergenza. Progettare la dipendenza emotiva o l’assuefazione e utilizzare la manipolazione emotiva per indurre decisioni irragionevoli è esplicitamente proibito.
Il meccanismo della compliance è pesante. I servizi che lanciano funzioni antropomorfe o superano soglie di un milione di utenti registrati o 100.000 attivi mensili devono eseguire valutazioni di sicurezza che coprono otto aree, dalla gestione dei dati di formazione alla protezione dei minori, e presentare i rapporti alle autorità di regolamentazione provinciali. Gli app store devono verificare tale stato e rimuovere i prodotti non conformi.
Sulla carta, si tratta di una serie di protezioni per gli utenti più completa di quella messa in vigore dall’UE, dalla Federal Trade Commission degli Stati Uniti o dalla SB 243 della California.
Ciò che le regole lasciano aperto
Ciò che le misure non risolvono è altrettanto importante. Non fissano alcuna soglia tecnica per ciò che conta come interazione emotiva, e quella zona grigia è proprio il motivo per cui le piattaforme hanno sfruttato intere funzionalità piuttosto che rischiare di finire dalla parte sbagliata. Incorporano veri e propri doveri di sicurezza con disposizioni di controllo dei contenuti e di sicurezza nazionale che rispondono allo Stato piuttosto che all’utente, un pacchetto che nessun altro regolatore importerebbe all’ingrosso.
Lasciano inoltre aperta la questione della ripartizione della responsabilità tra operatori della piattaforma e fornitori di modelli a monte quando una violazione deriva dai risultati del modello e non danno agli utenti il diritto di trasferire i propri dati. Il contesto dell’applicazione della legge acuisce il punto. L’autorità di regolamentazione di Internet di Shanghai ha dichiarato il 26 giugno di aver rimosso più di 14.000 agenti di intelligenza artificiale non conformi, citando l’impersonificazione di entità ufficiali, giochi di ruolo volgari e raccolta non autorizzata di dati personali.
Se questa sia la direzione giusta dipende da quale metà del regolamento leggi. La parte relativa alla sicurezza affronta i danni che sono documentati e in gran parte non regolamentati altrove, dagli adolescenti che si attaccano ai chatbot alle app complementari che raccolgono dati intimi. L’interpretazione ufficiale della Cina punta al sostegno dell’estero, citando le cause legali di Character.AI sui danni psicologici agli adolescenti, le indagini della FTC sui servizi di compagnia e l’azione europea contro Replika.
La metà di controllo dà a Pechino una leva su ciò che questi sistemi possono dire, racchiusi nello stesso linguaggio di protezione dell’utente. Entrambi sono reali e i governi che osservano l’esperimento dovranno decidere quali parti sono disposti a prendere in prestito. Pan Helin, membro del comitato di esperti del MIIT, ha esposto chiaramente il caso ufficiale Posta del mattino della Cina meridionaleaffermando che “gli attuali agenti non sono ancora maturi” e inquadrando la politica attorno alla sicurezza e alla standardizzazione.
Le aziende, per ora, hanno intrapreso la strada più sicura a loro disposizione, ovvero spegnere i componenti e capire in seguito come sarà una versione conforme.
Vedi anche: Meta rivede le politiche dei chatbot IA in un contesto di preoccupazione per la sicurezza dei bambini
Vuoi saperne di più sull’intelligenza artificiale e sui big data dai leader del settore? Guardare Fiera dell’intelligenza artificiale e dei big data che si svolge ad Amsterdam, in California, e a Londra. L’evento completo è parte di TechEx ed è situato in concomitanza con altri importanti eventi tecnologici tra cui Fiera sulla sicurezza informatica e sul cloud. Clic Qui per ulteriori informazioni
AI News è alimentato da Media TechForge. Esplora altri prossimi eventi e webinar sulla tecnologia aziendale Qui.
Fonte: www.artificialintelligence-news.com
