Claude залишатиме невидимий слід у текстах: його зможуть розпізнати інші системи
Anthropic додає маркування контенту для Claude (фото: Unsplash)
Контент від Claude отримуватиме цифрове маркування, яке зможуть розпізнавати інші системи. Anthropic запроваджує його для нових моделей у межах правил ЄС, але використовуватиме технологію по всьому світу.
Про це пише РБК-Україна з посиланням на Anthropic.
Технології маркування контенту
Для ідентифікації згенерованого матеріалу Anthropic використовує два взаємодоповнюючі методи:
Приховані водяні знаки у тексті - під час генерації відповідей алгоритм вбудовує у текст невидимий для ока цифровий водяний знак.
Він не змінює зміст, якість чи читабельність тексту, проте зберігається під час копіювання, вставки та часткового редагування.
Цифрові підписи метаданих (C2PA) - під час створення файлів (наприклад, у форматах .svg, .png чи .jpg) до них додаються зашифровані метадані за відкритим стандартом C2PA.
Це дозволяє підтвердити, що файл опрацьовувався сервісом Claude, і виявити факти внесення змін.
Також компанія розробляє інструменти детекції, які дозволять користувачам і стороннім сервісам перевіряти наявність знаків Anthropic у текстах чи файлах.
Обмеження та нюанси ідентифікації
У компанії наголошують, що наявність або відсутність цифрового маркування не є абсолютним доказом походження контенту.
Як це працює?
Зауваження щодо авторства - наявність позначки Claude свідчить лише про те, що текст опрацьовувався моделлю (наприклад, під час вичитки, перекладу чи сумаризації), але самі ідеї чи первинний текст могли належати людині
Можливість втрати знака - маркування може зникнути або стати нечитабельним у разі
- глибокого рерайту,
- перекладу,
- сильного скорочення тексту,
- конвертації файлів,
- створення скриншотів,
- видалення метаданих.
Для розробників, які створюють власні продукти на базі Claude API, Anthropic випустить додаткові технічні інструкції, щоб допомогти їм відповідати вимогам прозорості EU AI Act.
