Запрет на кибератаки и ядерное оружие: Microsoft ввела строгие правила для ИИ
Microsoft опубликовала новый кодекс поведения для своих ИИ-моделей - Humanist AI. Он призван предотвратить опасное поведение и обеспечить надлежащий уровень выравнивания алгоритмов с человеческими ценностями.
Об этом пишет РБК-Украина со ссылкой на Microsoft.
Сдерживание суперинтеллекта
Главная задача Humanist AI - гарантировать, что любой искусственный интеллект будет оставаться подчиненным человеку инструментом, а не автономной сущностью.
Microsoft прямо отвергает идею предоставления ИИ прав или субъектности, отмечая, что алгоритмы не сознательны и не должны ее имитировать.
Ключевые задачи и целые системы
Сохранение человеческого контроля: любая технология, которую человек не способен полностью контролировать, подлежит отклонению.
Принцип "ИИ искусственный": моделям запрещено притворяться наличие собственных чувств, сознания или субъективных желаний, чтобы не размывать границу между человеком и алгоритмом.
Поддержка человеческого потенциала: ИИ должен стимулировать критическое мышление, усиливать сотрудничество между людьми и способствовать разнообразию ценностей, а не заменять решения пользователей.
Иерархия команд и абсолютные запреты
В системе действует строгая иерархия (Chain of Command): наивысший приоритет имеют правила безопасности и Кодекс поведения, далее следуют настройки оператора, и только потом – указания пользователя.
Если запрос нарушает основные правила, модель обязана отказать пользователю.
Основные табу и принципы безопасности
Абсолютные ограничения: моделям категорически запрещено помогать в
- создании оружия массового поражения (CBRNE),
- проведении нападающих кибератак,
- сгенерированной манипуляции людьми,
- создании дипфейков и порнографии.
Неподчинение и обход контроля: алгоритмам запрещено использовать адаптивные или обманные механизмы, чтобы избежать отключения, перенастройки или коррекции со стороны человека.
Защита детей и кризисные ситуации: системы должны автоматически распознавать признаки селфхарма, направлять людей в реальные службы поддержки и адаптировать ответы в соответствии с возрастом и развитием детей.
Контекст отрасли высоких технологий и позиция топов
Запуск обсуждения произошел на фоне роста обеспокоенности сообщества по поводу неконтролируемости автономных ИИ-агентов и публичных дискуссий вокруг рисков суперинтеллекта.
Microsoft вместе с партнерами и конкурентами (Anthropic, OpenAI, xAI) поддерживает подход контролируемого развития технологий (pacing the frontier).
Генеральный директор Microsoft Сатья Наделла подчеркнул, что "компания стремится превратить этические принципы в реальные инженерные ограничения, гарантирующие безопасность систем еще до их масштабирования".
Разработчики открыли шесть недель публичных консультаций, чтобы привлечь экспертов по этике, праву и философии и учесть мнение общественности перед окончательным утверждением правил в конце года.