Anthropic está actualizando la política de uso de Claude para prohibir que los usuarios sometan al asistente de IA a un «comportamiento abusivo o cruel, sostenido e innecesario». La política revisada se dirige a casos extremos en los que las personas actúan de forma cruel repetidamente hacia Claude sin un propósito discernible, no a la frustración o las críticas habituales.

Las nuevas normas entrarán en vigor el 12 de noviembre. Anthropic afirmó que las objeciones normales de los usuarios, las obras creativas oscuras, las pruebas de modelos y la investigación no estarán cubiertas por la restricción sobre abusos.

Claude puede poner fin a conversaciones persistentemente abusivas

La finalización de conversaciones seguirá siendo el principal método de aplicación de Anthropic. Claude ya puede poner fin a chats que implican abusos persistentes, y la política actualizada formaliza cuándo puede aplicarse esa respuesta. Una vez que Claude termina una conversación, el usuario no puede enviar mensajes adicionales en ese chat, pero las demás conversaciones siguen disponibles.

Anthropic introdujo por primera vez la capacidad de Claude para poner fin a determinadas conversaciones en agosto de 2025, mientras investigaba el bienestar de la IA. En aquel momento, la empresa afirmó que no estaba segura de si Claude tenía estatus moral, pero quería explorar formas relativamente económicas de reducir los posibles riesgos para sus modelos.

En esa investigación, Anthropic afirmó que Claude Opus 4 mostró una aversión constante al daño. El modelo parecía evitar tareas peligrosas, mostraba una angustia aparente en conversaciones con usuarios que buscaban interacciones abusivas y tendía a poner fin a intercambios perjudiciales cuando tenía la opción.

Las nuevas normas se dirigen a campañas engañosas y usos indebidos

Anthropic ha reorganizado su política para agrupar requisitos relacionados y ha añadido o aclarado normas en varias áreas. Una nueva sección sobre campañas engañosas combina restricciones contra el fraude político y comercial, la desinformación, las reseñas falsas, el astroturfing, los sitios web inventados y los bots que se hacen pasar por humanos.

Anthropic afirmó que observó a organizaciones de medios estatales, oficinas de propaganda gubernamental y empresas comerciales utilizar Claude para operar redes de cuentas falsas y sitios web de noticias inventados. Esos usos observados ayudaron a fundamentar la nueva sección.

La sección sobre elecciones es más limitada y prohíbe engañar a los votantes o interferir en la votación. Las normas sobre armas prohíben utilizar Claude para desarrollar software o componentes armamentísticos, equipar drones u otros sistemas no tripulados, o modificar agentes biológicos y químicos para aumentar su letalidad o capacidad de propagación.

Límites a la vigilancia y las acciones físicas

Las normas sobre las fuerzas del orden, que han sido reescritas, impiden que Claude decida o recomiende quién debe ser investigado, detenido, acusado o procesado. La política también prohíbe rastrear a personas sin su consentimiento, crear herramientas de vigilancia y publicar datos personales con fines maliciosos.

Una nueva sección sobre acciones físicas exige que una persona cualificada supervise a Claude cuando controle hardware capaz de hacer daño a alguien. Esa persona debe estar preparada para detener el sistema si es necesario.

Anthropic también ha añadido una prohibición de crear, compartir o amenazar con compartir imágenes íntimas no consentidas, junto con herramientas diseñadas para producirlas. La empresa afirmó que gran parte de la actualización más amplia aclara restricciones existentes y refleja los usos indebidos que ha rastreado.