Anthropic нашла способ разоблачать тексты Claude: пользователь ничего не заметит
Anthropic объяснила, как Claude обозначает текст, созданный ИИ. Система должна помочь отличать ответы чат-бота от текста, написанного человеком, и отвечать новым требованиям ЕС.
Об этом пишет РБК-Украина со ссылкой на Anthropic.
Как работать водяные знаки и защита анонимности?
Для реализации маркировки Anthropic выбрала алгоритм SynthID-Text, ранее разработанный командой Google DeepMind.
Как он работает?
Принцип синтаксического выбора: при создании текста модель выбирает между синонимическими словами (например, "облачно" или "мрачно") на основе специального ключа генерации случайных чисел. Это образует скрытый математический паттерн.
Отсутствие визуальных изменений: водяной знак полностью незаметен читателю, не добавляет скрытых символов или дополнительных токенов и не влияет на скорость генерации или стоимость услуг.
Конфиденциальность: заверения разработчиков свидетельствуют, что паттерн не содержит персональных данных пользователей, информации об организациях или истории конкретных диалогов.
C2PA для мультимедиа: для изображений и файлов (форматы .png, .jpg, .svg) будут использоваться криптографические метаданные стандарта C2PA без изменения самого содержимого.
Устойчивость к редактированию и специфика работы с кодом
Представители Anthropic отдельно очертили границы применения и алгоритмические особенности технологии в разных рабочих сценариях.
Редактирование и перефразирование: незначительное редактирование текста человеком не удалит водяной знак полностью. В то же время полная переписка с заменой каждого слова полностью уничтожает маркировку.
Требования к точности и код: в ситуациях, где требуется строгая точность (фактические данные или программный код), водяной знак почти не применяется, поскольку модель не имеет свободы выбора синонимов.
Исключение могут быть только произвольные названия переменных или комментарии в коде.
Проверка наличия: компания планирует запустить специальный API для детекции водяных знаков.
Инструмент будет определять только вероятность участия Claude в создании текста, но не будет идентифицировать автора или факт полного написания текста или кода человеком.