Anthropic запретила оскорблять Claude: никаких манипуляций и разработок оружия
Anthropic ввела новые запреты для ИИ (фото: Planet Volumes)
Anthropic обновила политику использования своих ИИ-моделей Claude. Новый документ уточняет запрет на использование алгоритма для оружия, слежения и дезинформации, а также впервые запрещает длительное издевательство над самими алгоритмами.
Об этом сообщает РБК-Украина со ссылкой на Anthropic.
Защита ИИ от издевательств пользователей
Разработчики вводят запрет на длительное и безосновательное жестокое или оскорбительное поведение в отношении своих моделей.
Это правило будут применяться только в крайних случаях, когда пользователи систематически проявляют агрессию без всякой исследовательской или практической цели.
Обычные проявления раздражения, спора, тестирования моделей или исследования под это ограничение не подпадают. В случае систематического хамства Claude будет иметь право самостоятельно завершать разговор с пользователем на платформах Claude.ai и Claude Code.
Читайте больше: Сканирует ИИ-контент OpenAI и Apple: Google открыла доступ к SynthID для всех
Табу на дезинформацию и манипуляции
Разработчики объединили правила по борьбе с обманом в новый раздел, запрещающий участие в дезинформационных кампаниях или искусственной активности.
Поводом послужили случаи использования Claude государственными СМИ, пропагандистскими структурами и частными фирмами для управления сетями ботов и фейковыми новостями на сайтах.
Запрет касается:
- сокрытие подлинных авторов сообщений;
- накрутки контента через бот-аккаунты;
- создание инфраструктуры для информационных операций
Также обновлен раздел о выборах. Claude запрещено использовать для введения избирателей в заблуждение, распространения ложной информации о кандидатах или срыва голосования.
При этом компания сняла сплошной запрет на персонализированный таргетинг для легитимных общественных инициатив, например перевода инструкций для избирателей на другие языки.
Больше интересного: Биотехнологии переведут в цифру: что известно об уникальном проекте Google, Meta и NVIDIA
Ограничения в области разработки оружия и слежки
Anthropic четко отмечает, что запрет на разработку оружия распространяется на программное обеспечение и компоненты, обеспечивающие его работу.
Также запрещено использовать ИИ для оснащения оружием дронов и других автономных транспортных средств.
В сфере слежки и уголовного правосудия введены следующие правила:
- запрещена слежка за людьми без их согласия в реальном времени или через анализ собранных данных;
- ИИ нельзя использовать для вынесения решений о расследовании, задержании или предъявлении обвинений;
- запрещена разработка и усовершенствование инструментов для слежения.
В то же время разрешенными остаются мониторинг мошенничества с согласия пользователей, модерация контента, журналистика и юридические исследования.
Не пропустите: Маск прокачал Grok: бот получил доступ к Midjourney, Claude и Suno
Требования к решениям с высоким риском
Если ИИ используются в сферах здравоохранения, финансов или юриспруденции, обязательным условием остается наличие квалифицированного специалиста, который может проверить и изменить рекомендации системы. Также пользователям должны сообщить о привлечении ИИ.
В случае подключения моделей к физическому оборудованию, способному нанести травмы, оператор должен иметь возможность наблюдать за техникой и остановить ее в случае необходимости.
При потере связи с ИИ оборудование должно автоматически переходить в безопасный режим.
Обновленная политика вступит в силу 12 ноября 2026 года.
