Штрафы до 15 млн евро: OpenAI начала маркировать тексты ChatGPT для пользователей ЕС
OpenAI объявила о начале выполнения новых правил Европейского Союза по прозрачности искусственного интеллекта. Разработчик ChatGPT вводит невидимую маркировку для текста и кода, сгенерированных пользователями в странах ЕС.
Об этом информирует РБК-Украина, ссылаясь на OpenAI.
Технология textGrain и эффективность обнаружения
Для маркировки контента OpenAI использует собственную разработку под названием textGrain. Она добавляет невидимый статистический сигнал непосредственно в процесс выбора слов моделью, не меняя визуальное восприятие текста или кода.
Особенности работы и ограничение системы
Точность обнаружения: на больших фрагментах текста (около 400 токенов) эффективность распознавания достигает 95 процентов, однако для коротких сообщений (до 200 токенов) показатель снижается до примерно 80 процентов.
Воздействие редактирования: сильное перефразирование или замена четверти слов синонимами существенно ослабляет водяной знак (до 17 процентов).
Сложные домены: точность распознавания значительно ниже в математических вычислениях, где выбор слов и символов ограничен жесткой логикой.
По умолчанию водяные знаки включены для ChatGPT и Codex только в пределах ЕС, тогда как клиенты OpenAI API по всему миру смогут включать эту функцию опционально.
Инструмент для проверки наличия меток получат только одобренные исследователи и экспертные организации.
Читайте больше: Катастрофические риски и запреты: Сэм Альтман рассказал о конфликте ключевых ИИ-концепций
Требования Регламента ЕС об искусственном интеллекте
Меры принимаются в соответствии со статьей 50 Регламента ЕС о ИИ, которая обязывает поставщиков генеративных систем делать маркировку машинно считываемой.
Норма уже вступила в силу для новых разработчиков в августе, а у действующих игроков рынка (OpenAI, Anthropic, Microsoft, Google, Meta) есть время на полную адаптацию к 2 декабря.
Основные положения регулирования контента в ЕС
Четкая маркировка: фото, аудио, видео или тексты, полностью сгенерированные ИИ, должны иметь отметку "AI-Generated" (особенно это касается дипфейков с политиками или новостных сведений).
Предупреждение пользователей: платформы обязаны информировать людей, когда те взаимодействуют с чат-ботом, а не с реальным человеком.
Строгие штрафы: за нарушение правил предусмотрены санкции до 15 млн евро или до 3 процентов от годового мирового оборота компании.
Несмотря на критику технологического сектора относительно возможного замедления инноваций, Европейская комиссия отмечает: единые правила защитят демократию, базовые права граждан и повысят доверие к цифровой экосистеме.