Anthropic sta aggiornando le regole d’uso di Claude per vietare agli utenti di sottoporre l’assistente IA a «comportamenti abusivi o crudeli, prolungati e privi di necessità». La politica rivista riguarda i casi estremi in cui le persone si comportano ripetutamente in modo crudele verso Claude senza uno scopo riconoscibile, non la normale frustrazione o le critiche.

Le nuove regole entreranno in vigore il 12 novembre. Anthropic ha dichiarato che le normali contestazioni degli utenti, le opere creative cupe, i test del modello e la ricerca non rientreranno nella restrizione sugli abusi.

Claude può terminare le conversazioni con abusi persistenti

La chiusura delle conversazioni resterà il principale metodo di applicazione delle regole da parte di Anthropic. Claude può già terminare le chat che includono abusi persistenti e la politica aggiornata formalizza i casi in cui questa risposta può essere applicata. Dopo la chiusura di una conversazione da parte di Claude, l’utente non può inviare altri messaggi in quella chat, ma le altre conversazioni restano disponibili.

Anthropic ha introdotto per la prima volta la possibilità per Claude di terminare alcune conversazioni nell’agosto 2025, nell’ambito di una ricerca sul benessere dell’IA. All’epoca, l’azienda dichiarò di non sapere con certezza se Claude avesse uno status morale, ma di voler esplorare metodi relativamente poco costosi per ridurre i potenziali rischi per i propri modelli.

In quella ricerca, Anthropic ha affermato che Claude Opus 4 mostrava una costante avversione al danno. Il modello sembrava evitare compiti pericolosi, mostrava apparenti segnali di sofferenza nelle conversazioni con utenti in cerca di interazioni abusive e tendeva a chiudere gli scambi dannosi quando ne aveva la possibilità.

Le nuove regole prendono di mira campagne ingannevoli e abusi

Anthropic ha riorganizzato la propria politica per raggruppare insieme i requisiti correlati e ha aggiunto o chiarito regole in diversi ambiti. Una nuova sezione sulle campagne ingannevoli riunisce le restrizioni su frodi politiche e commerciali, disinformazione, recensioni false, astroturfing, siti web fabbricati e bot che si spacciano per esseri umani.

Anthropic ha dichiarato di aver osservato organizzazioni dei media statali, uffici di propaganda governativi e aziende commerciali utilizzare Claude per gestire reti di account falsi e siti web di notizie fabbricati. Questi utilizzi osservati hanno contribuito a definire la nuova sezione.

La sezione sulle elezioni è più circoscritta e vieta di ingannare gli elettori o interferire con il voto. Le regole sulle armi vietano di utilizzare Claude per sviluppare software o componenti per armi, armare droni o altri sistemi senza equipaggio oppure modificare agenti biologici e chimici per aumentarne la letalità o la capacità di diffusione.

Limiti alla sorveglianza e alle azioni fisiche

Le regole riscritte sulle forze dell’ordine impediscono a Claude di decidere o raccomandare chi debba essere indagato, arrestato, incriminato o sottoposto a processo. La politica vieta inoltre di controllare le persone senza il loro consenso, costruire strumenti di sorveglianza e fare doxxing.

Una nuova sezione sulle azioni fisiche richiede che una persona qualificata controlli Claude quando il sistema gestisce hardware in grado di ferire qualcuno. Questa persona deve essere pronta a fermare il sistema se necessario.

Anthropic ha inoltre aggiunto il divieto di creare, condividere o minacciare di condividere immagini intime non consensuali, insieme agli strumenti progettati per produrle. L’azienda ha dichiarato che gran parte dell’aggiornamento più ampio chiarisce restrizioni già esistenti e riflette gli abusi monitorati.