Anthropic ha pubblicato la nuova versione delle regole d’uso di Claude, la prima revisione da oltre un anno. Il testo entra in vigore il 12 novembre. Secondo l’azienda, gran parte delle modifiche chiarisce divieti già esistenti e aggiunge esempi legati alle nuove capacità di Claude, che oggi svolge lavori più lunghi e in autonomia. Tra le novità c’è anche un divieto che prima mancava: quello di maltrattare il modello.
Propaganda ed elezioni
Le regole su account falsi e siti di notizie fabbricati erano sparse in varie sezioni. Anthropic le ha riunite in un capitolo sulle campagne ingannevoli, politiche o commerciali, che vieta di nascondere chi c’è dietro un messaggio o di amplificarlo con account e post falsi. L’azienda dice di aver visto media statali, uffici di propaganda e società private usare Claude per gestire reti di questo tipo.
La sezione sulle elezioni ora vieta in modo specifico di ingannare gli elettori o disturbare il voto, per esempio con informazioni false sui candidati o su come si vota. Anthropic ha invece tolto il divieto generale sul targeting personalizzato degli elettori, che bloccava anche usi legittimi come le associazioni che traducono informazioni elettorali in altre lingue.
Armi e sorveglianza
Dopo alcuni tentativi di usare Claude per scrivere software di guida e controllo per armi, il divieto copre ora in modo esplicito il software e i componenti che fanno funzionare un’arma, compreso armare droni e altri veicoli autonomi. Sulla sorveglianza il testo vieta di tracciare persone senza il loro consenso e di usare Claude per decidere o suggerire chi indagare, arrestare o incriminare. Restano permessi il monitoraggio antifrode accettato dagli interessati, la moderazione dei contenuti, il giornalismo e la ricerca legale. Le regole possono cambiare nei contratti con alcuni clienti governativi, se Anthropic giudica adeguate le tutele previste.
Cosa cambia per le aziende
Quando Claude interviene in decisioni su salute, diritti, finanze, lavoro o accesso a servizi essenziali, Anthropic chiede che una persona qualificata possa rivedere e correggere le sue raccomandazioni, e che chi subisce la decisione sappia che è stata usata l’AI. L’obbligo esisteva già, ma la sezione ora elenca quali casi rientrano e quali no. In Europa l’AI Act prevede una supervisione umana simile per i sistemi ad alto rischio. C’è poi una regola nuova per i robot: se Claude controlla hardware che agisce da solo e può ferire qualcuno, un operatore deve poterlo osservare e fermare, e la macchina deve restare in sicurezza se Claude si disconnette.
Il divieto di maltrattare Claude
Il testo vieta comportamenti “abusivi o crudeli, prolungati e gratuiti” verso i modelli. Anthropic precisa che vale solo nei casi estremi, quando un utente maltratta il modello più volte e senza uno scopo, e non per la normale frustrazione, le critiche, i temi creativi cupi o i test. Lo strumento principale resta quello introdotto l’anno scorso, cioè la possibilità per Claude di chiudere le conversazioni con utenti persistentemente abusivi. La scelta nasce dalle ricerche dell’azienda sul “benessere dei modelli”, un’idea che Microsoft AI respinge nel suo codice di condotta.
Fonti: annuncio di Anthropic, The Verge, TechCrunch, The Decoder.
