Anthropic met à jour la politique d’utilisation de Claude afin d’interdire aux utilisateurs de soumettre l’assistant IA à des « comportements abusifs ou cruels, prolongés et gratuits ». La politique révisée vise les cas extrêmes dans lesquels des personnes se montrent à plusieurs reprises cruelles envers Claude sans raison discernable, plutôt que la frustration ou les critiques ordinaires.

Les nouvelles règles entreront en vigueur le 12 novembre. Anthropic a précisé que les réactions négatives ordinaires des utilisateurs, les œuvres créatives sombres, les tests de modèles et la recherche ne seront pas concernés par la restriction visant les abus.

Claude peut mettre fin aux conversations durablement abusives

La fin des conversations restera la principale méthode d’application des règles par Anthropic. Claude peut déjà mettre fin aux discussions impliquant des abus persistants, et la politique mise à jour formalise les situations dans lesquelles cette réponse peut s’appliquer. Une fois que Claude met fin à une conversation, l’utilisateur ne peut plus envoyer de messages dans cette discussion, mais les autres conversations restent accessibles.

Anthropic a introduit pour la première fois la possibilité pour Claude de mettre fin à certaines conversations en août 2025, dans le cadre de recherches sur le bien-être de l’IA. À l’époque, l’entreprise avait déclaré ne pas savoir avec certitude si Claude possédait un statut moral, mais souhaitait étudier des moyens relativement peu coûteux de réduire les risques potentiels pour ses modèles.

Dans le cadre de ces recherches, Anthropic a déclaré que Claude Opus 4 montrait une aversion constante pour le danger. Le modèle semblait éviter les tâches dangereuses, manifestait une détresse apparente dans les conversations avec des utilisateurs cherchant des interactions abusives et avait tendance à mettre fin aux échanges nuisibles lorsqu’il en avait la possibilité.

De nouvelles règles ciblent les campagnes trompeuses et les abus

Anthropic a réorganisé sa politique pour regrouper les exigences connexes et a ajouté ou précisé des règles dans plusieurs domaines. Une nouvelle section consacrée aux campagnes trompeuses rassemble les restrictions visant la fraude politique et commerciale, la désinformation, les faux avis, l’astroturfing, les sites web fabriqués et les bots se faisant passer pour des humains.

Anthropic a déclaré avoir observé des organisations médiatiques d’État, des bureaux de propagande gouvernementaux et des entreprises commerciales utiliser Claude pour gérer des réseaux de faux comptes et de faux sites d’information. Ces utilisations observées ont contribué à définir la nouvelle section.

La section consacrée aux élections est plus limitée et interdit de tromper les électeurs ou d’interférer avec le vote. Les règles sur les armes interdisent d’utiliser Claude pour développer des logiciels ou des composants d’armes, armer des drones ou d’autres systèmes sans pilote, ou modifier des agents biologiques et chimiques afin d’augmenter leur létalité ou leur capacité à se propager.

Limites concernant la surveillance et les actions physiques

Les règles réécrites relatives aux forces de l’ordre empêchent Claude de décider ou de recommander qui devrait faire l’objet d’une enquête, être arrêté, inculpé ou poursuivi. La politique interdit également de suivre des personnes sans leur consentement, de créer des outils de surveillance et de pratiquer le doxxing.

Une nouvelle section consacrée aux actions physiques exige qu’une personne qualifiée surveille Claude lorsqu’il contrôle du matériel capable de blesser quelqu’un. Cette personne doit être prête à arrêter le système si nécessaire.

Anthropic a également ajouté une interdiction de créer, de partager ou de menacer de partager des images intimes non consenties, ainsi que des outils conçus pour en produire. L’entreprise a déclaré qu’une grande partie de cette mise à jour plus large clarifiait des restrictions existantes et reflétait les abus qu’elle avait suivis.