Claude будет оставлять невидимый след в текстах: его смогут распознать другие системы
Anthropic добавляет маркировку контента для Claude (фото: Unsplash)
Контент от Claude будет получать цифровую маркировку. Anthropic вводит ее в новые правила в ЕС, но будет использовать технологию по всему миру.
Об этом пишет РБК-Украина со ссылкой на Anthropic.
Технологии маркировки контента
Для идентификации сгенерированного материала Anthropic использует два взаимодополняющих метода:
Скрытые водяные знаки в тексте - при генерации ответов алгоритм встраивает в текст невидимый глазу цифровой водяной знак.
Он не изменяет содержание, качество или читаемость текста, однако сохраняется при копировании, вставке и частичном редактировании.
Цифровые подписи метаданных (C2PA) - при создании файлов (например, в форматах .svg, .png или .jpg) к ним добавляются зашифрованные метаданные по открытому стандарту C2PA.
Это позволяет подтвердить, что файл прорабатывался сервисом Claude и выявить факты внесения изменений.
Также компания разрабатывает инструменты детекции, позволяющие пользователям и сторонним сервисам проверять наличие знаков Anthropic в текстах или файлах.
Ограничения и нюансы идентификации
В компании отмечают, что наличие или отсутствие цифровой маркировки не является абсолютным доказательством происхождения контента.
Как это работает?
Замечание по поводу авторства - наличие отметки Claude свидетельствует лишь о том, что текст обрабатывался моделью (например, при вычитке, переводе или суммаризации), но сами идеи или первоначальный текст могли принадлежать человеку
Возможность потери знака - маркировка может исчезнуть или стать нечитаемой в случае
- глубокого рерайта,
- перевода,
- сильного сокращения текста,
- конвертации файлов,
- создание скриншотов,
- удаление метаданных.
Для разработчиков, создающих свои продукты на базе Claude API, Anthropic выпустит дополнительные технические инструкции, чтобы помочь им соответствовать требованиям прозрачности EU AI Act.
