Anthropic запретила оскорблять Claude: никаких манипуляций и разработок оружия

Защита ИИ от издевательств пользователей

Разработчики вводят запрет на длительное и безосновательное жестокое или оскорбительное поведение в отношении своих моделей.

Это правило будут применяться только в крайних случаях, когда пользователи систематически проявляют агрессию без всякой исследовательской или практической цели.

Обычные проявления раздражения, спора, тестирования моделей или исследования под это ограничение не подпадают. В случае систематического хамства Claude будет иметь право самостоятельно завершать разговор с пользователем на платформах Claude.ai и Claude Code.

Читайте больше: Сканирует ИИ-контент OpenAI и Apple: Google открыла доступ к SynthID для всех

Табу на дезинформацию и манипуляции

Разработчики объединили правила по борьбе с обманом в новый раздел, запрещающий участие в дезинформационных кампаниях или искусственной активности.

Поводом послужили случаи использования Claude государственными СМИ, пропагандистскими структурами и частными фирмами для управления сетями ботов и фейковыми новостями на сайтах.

Запрет касается:

• сокрытие подлинных авторов сообщений;
• накрутки контента через бот-аккаунты;
• создание инфраструктуры для информационных операций

Также обновлен раздел о выборах. Claude запрещено использовать для введения избирателей в заблуждение, распространения ложной информации о кандидатах или срыва голосования.

При этом компания сняла сплошной запрет на персонализированный таргетинг для легитимных общественных инициатив, например перевода инструкций для избирателей на другие языки.

Больше интересного: Биотехнологии переведут в цифру: что известно об уникальном проекте Google, Meta и NVIDIA

Ограничения в области разработки оружия и слежки

Anthropic четко отмечает, что запрет на разработку оружия распространяется на программное обеспечение и компоненты, обеспечивающие его работу.

Также запрещено использовать ИИ для оснащения оружием дронов и других автономных транспортных средств.

В сфере слежки и уголовного правосудия введены следующие правила:

• запрещена слежка за людьми без их согласия в реальном времени или через анализ собранных данных;
• ИИ нельзя использовать для вынесения решений о расследовании, задержании или предъявлении обвинений;
• запрещена разработка и усовершенствование инструментов для слежения.

В то же время разрешенными остаются мониторинг мошенничества с согласия пользователей, модерация контента, журналистика и юридические исследования.

Не пропустите: Маск прокачал Grok: бот получил доступ к Midjourney, Claude и Suno

Требования к решениям с высоким риском

Если ИИ используются в сферах здравоохранения, финансов или юриспруденции, обязательным условием остается наличие квалифицированного специалиста, который может проверить и изменить рекомендации системы. Также пользователям должны сообщить о привлечении ИИ.

В случае подключения моделей к физическому оборудованию, способному нанести травмы, оператор должен иметь возможность наблюдать за техникой и остановить ее в случае необходимости.

При потере связи с ИИ оборудование должно автоматически переходить в безопасный режим.

Обновленная политика вступит в силу 12 ноября 2026 года.