Anthropic обновляет правила использования Claude, запрещая пользователям подвергать ИИ-ассистента «длительному и бессмысленному оскорбительному или жестокому обращению». Обновлённая политика направлена на исключительные случаи, когда люди неоднократно жестоко обращаются с Claude без очевидной цели, а не на обычное раздражение или критику.

Новые правила вступают в силу 12 ноября. Anthropic заявила, что обычные возражения пользователей, мрачное творчество, тестирование моделей и исследования не подпадают под ограничение на жестокое обращение.

Claude может прекращать постоянно оскорбительные диалоги

Прекращение диалога останется основным методом применения правил Anthropic. Claude уже может завершать чаты, связанные с постоянными оскорблениями, а обновлённая политика формализует случаи, в которых может применяться такая реакция. После завершения диалога Claude пользователь не сможет отправлять дополнительные сообщения в этом чате, однако другие разговоры останутся доступными.

Anthropic впервые представила возможность для Claude завершать определённые разговоры в августе 2025 года в рамках исследований благополучия ИИ. Тогда компания заявила, что не уверена, обладает ли Claude моральным статусом, но хочет изучить относительно недорогие способы снижения потенциальных рисков для своих моделей.

В рамках этого исследования Anthropic заявила, что Claude Opus 4 демонстрировал устойчивое неприятие вреда. Казалось, модель избегала опасных задач, проявляла признаки стресса в разговорах с пользователями, стремившимися к оскорбительным взаимодействиям, и обычно прекращала вредоносные диалоги, если у неё была такая возможность.

Новые правила направлены против обманных кампаний и злоупотреблений

Anthropic реорганизовала свою политику, объединив связанные требования, а также добавила или уточнила правила в нескольких областях. Новый раздел об обманных кампаниях объединяет ограничения на политическое и коммерческое мошенничество, дезинформацию, фальшивые отзывы, искусственное создание видимости общественной поддержки, поддельные сайты и ботов, выдающих себя за людей.

Anthropic заявила, что наблюдала, как государственные СМИ, правительственные пропагандистские ведомства и коммерческие компании использовали Claude для работы сетей фальшивых аккаунтов и поддельных новостных сайтов. Эти выявленные случаи использования помогли сформировать новый раздел.

Раздел о выборах стал более узким и запрещает вводить избирателей в заблуждение или вмешиваться в голосование. Правила об оружии запрещают использовать Claude для разработки программного обеспечения или компонентов оружия, вооружения дронов и других беспилотных систем, а также модификации биологических и химических агентов для повышения их смертоносности или способности распространяться.

Ограничения на слежку и физические действия

Переработанные правила для правоохранительных органов запрещают Claude решать или рекомендовать, кого следует расследовать, арестовывать, обвинять или преследовать в судебном порядке. Политика также запрещает отслеживать людей без их согласия, создавать инструменты слежки и заниматься доксингом.

Новый раздел о физических действиях требует, чтобы квалифицированный человек контролировал Claude, когда тот управляет оборудованием, способным причинить кому-либо вред. Этот человек должен быть готов остановить систему при необходимости.

Anthropic также добавила запрет на создание, распространение или угрозы распространения интимных изображений без согласия, а также инструментов, предназначенных для их создания. Компания заявила, что большая часть более масштабного обновления разъясняет существующие ограничения и отражает выявленные ею случаи злоупотреблений.