Anthropic заборонила ображати Claude: жодних маніпуляцій та розробок зброї

Захист ШІ від знущань користувачів

Розробники вводять заборону на тривалу та безпідставну жорстоку або образливу поведінку щодо своїх моделей.

Це правило застосовуватимуть лише у крайніх випадках, коли користувачі систематично виявляють агресію без жодної дослідницької чи практичної мети.

Звичайні вияви роздратування, суперечки, тестування моделей або дослідження під це обмеження не підпадають. У разі систематичного хамства Claude матиме право самостійно завершувати розмову з користувачем на платформах Claude.ai та Claude Code.

Читайте більше: Сканує ШІ-контент OpenAI й Apple: Google відкрила доступ до SynthID для всіх

Табу на дезінформацію та маніпуляції

Розробники об'єднали правила щодо боротьби з обманом у новий розділ, який забороняє участь у дезінформаційних кампаніях або штучній активності.

Приводом стали випадки використання Claude державними ЗМІ, пропагандистськими структурами та приватними фірмами для керування мережами ботів і фейковими новинами на сайтах.

Заборона стосується:

• приховування справжніх авторів повідомлень;
• накрутки контенту через бот-акаунти;
• створення інфраструктури для інформаційних операцій.

Також оновлено розділ про вибори. Claude заборонено використовувати для введення виборців в оману, поширення неправдивої інформації про кандидатів або зриву голосування.

При цьому компанія зняла суцільну заборону на персоналізований таргетинг для легітимних громадських ініціатив, наприклад, перекладу інструкцій для виборців іншими мовами.

Більше цікавого: Біотехнології переведуть у цифру: що відомо про унікальний проєкт Google, Meta та NVIDIA

Обмеження у сфері розробки зброї та стеження

Політика Anthropic чітко зазначає, що заборона на розробку зброї поширюється на програмне забезпечення та компоненти, які забезпечують її роботу.

Також заборонено використовувати ШІ для оснащення зброєю дронів та інших автономних транспортних засобів.

У сфері стеження та кримінального правосуддя введено такі правила:

• заборонено стеження за людьми без їхньої згоди в реальному часі або через аналіз зібраних даних;
• ШІ не можна використовувати для винесення рішень про розслідування, затримання чи висунення звинувачень;
• заборонено розробку та вдосконалення інструментів для стеження.

Водночас дозволеними залишаються моніторинг шахрайства за згодою користувачів, модерація контенту, журналістика та юридичні дослідження.

Не пропустіть: Маск прокачав Grok: бот отримав доступ до Midjourney, Claude і Suno

Вимоги до рішень із високим ризиком

Якщо ШІ використовують у сферах охорони здоров'я, фінансів чи юриспруденції, обов'язковою умовою залишається наявність кваліфікованого фахівця, який може перевірити та змінити рекомендації системи. Також користувача мають повідомити про залучення ШІ.

У разі підключення моделей до фізичного обладнання, яке здатне завдати травм, оператор повинен мати можливість спостерігати за технікою та зупинити її в разі потреби.

У разі втрати зв'язку з ШІ обладнання має автоматично переходити у безпечний режим.

Оновлена політика набере чинності 12 листопада 2026 року.