Чат-боты и дипфейки под контролем: в ЕС вступили в силу новые правила для ИИ
Со 2 августа в Евросоюзе начинают действовать новые правила для ИИ-систем. Теперь чат-боты должны сообщать, что пользователь общается с ИИ, а дипфейки и другой сгенерированный контент - содержать четкое обозначение о своем происхождении.
Об этом сообщает РБК-Украина со ссылкой на публикацию в Официальном журнале ЕС.
Ключевые обязанности
Согласно новым правилам, провайдеры и разработчики ИИ должны соблюдать четкие требования:
Идентификация систем. Чат-боты и голосовые помощники должны быть спроектированы так, чтобы пользователь четко понимал, что общается с машиной.
Маркировка. Разработчики обязаны добавлять специальные технические маркеры (водяные знаки, метаданные) в результаты генерации изображений, аудио, видео и текста.
Маркировка дипфейков. Любая публикация сгенерированного контента с изображением реальных людей должна содержать прямое указание на его искусственное происхождение.
Информационные тексты. Материалы, созданные ИИ для информирования пользователей об общественно важных событиях, должны маркироваться, если они не прошли человеческую проверку и за них не взяло редакционную ответственность конкретное лицо.
Исключения. Требования к маркировке не применяются, если ИИ выполняет только вспомогательные функции стандартного редактирования (исправление орфографии или грамматики).
Также под определение дипфейков не подпадает фантастический контент (например, изображения летающих в воздухе людей).
Почему маркировка будет незаметной?
Несмотря на то, что правила уже вступили в силу, обычные пользователи вряд ли сразу заметят массовые визуальные изменения или отметки на контенте.
Во-первых, статья 50, пункт 2 требует прежде всего машиночитаемой маркировки (внедрение метаданных или скрытых водяных знаков, считываемых специальными инструментами анализа), а не ярких визуальных иконок.
Использование трех официальных визуальных иконок Еврокомиссии (для полностью сгенерированного, частично измененного или созданного с участием ИИ контента) добровольно в рамках Кодекса практики.
Во-вторых, предусмотрен переходный период. Генеративные системы, уже выведенные на рынок к 2 августа 2026 года, получили дополнительные четыре месяца на внедрение маркировки - то есть, до 2 декабря 2026 года.
Это касается большинства популярных ИИ-сервисов.
Штрафы и последующие запреты
За нарушение требований по прозрачности Закон о ИИ предусматривает строгие финансовые санкции - штрафы до 15 миллионов евро или 3 процента от мирового годового оборота компании .
Также определен дальнейший график введения ограничений:
Со 2 декабря 2026 года в ЕС полностью запретят предлагать ИИ-системы, которые создают интимные изображения без согласия или материалы с сексуальным насилием над детьми.
За это предусмотрен максимальный уровень штрафов - до 35 миллионов евро или 7 процентов годового оборота .
Примечательно, что более строгие нормы для ИИ систем высокого риска (high-risk AI) отложены на декабрь 2027 года и август 2028 года.