Штрафи до 15 млн євро: OpenAI почала маркувати тексти ChatGPT для користувачів ЄС
OpenAI оголосила про початок виконання нових правил Європейського Союзу щодо прозорості штучного інтелекту. Розробник ChatGPT впроваджує невидиме маркування для тексту та коду, згенерованих користувачами у країнах ЄС.
Про це інформує РБК-Україна, посилаючись на OpenAI.
Технологія textGrain та ефективність виявлення
Для маркування контенту OpenAI використовує власну розробку під назвою textGrain. Вона додає невидимий статистичний сигнал безпосередньо у процес вибору слів моделлю, не змінюючи при цьому візуальне сприйняття тексту чи коду.
Особливості роботи та обмеження системи
Точність виявлення: на великих фрагментах тексту (близько 400 токенів) ефективність розпізнавання сягає 95 відсотків, проте для коротких повідомлень (до 200 токенів) показник знижується до приблизно 80 відсотків.
Вплив редагування: сильне перефразування або заміна чверті слів синонімами суттєво послаблює водяний знак (до 17 відсотків).
Складні домени: точність розпізнавання значно нижча у математичних обчисленнях, де вибір слів і символів обмежений жорсткою логікою.
Водяні знаки за замовчуванням увімкнені для ChatGPT та Codex лише у межах ЄС, тоді як клієнти OpenAI API по всьому світу зможуть вмикати цю функцію опціонально.
Інструмент для перевірки наявності міток наразі отримають лише схвалені дослідники та експертні організації.
Читайте більше: Катастрофічні ризики та заборони: Сем Альтман розповів про конфлікт ключових ШІ-концепцій
Вимоги Регламенту ЄС про штучний інтелект
Заходи вживаються відповідно до статті 50 Регламенту ЄС про ШІ, яка зобов'язує постачальників генеративних систем робити маркування машинно зчитуваним.
Норма вже набула чинності для нових розробників у серпні, а чинні гравці ринку (OpenAI, Anthropic, Microsoft, Google, Meta) мають час на повну адаптацію до 2 грудня.
Основні положення регулювання контенту в ЄС
Чітке маркування: фото, аудіо, відео чи тексти, повністю згенеровані ШІ, повинні мати позначку "AI-Generated" (особливо це стосується діпфейків із політиками чи новинних зведень).
Попередження користувачів: платформи зобов'язані інформувати людей, коли ті взаємодіють із чат-ботом, а не з реальною людиною.
Суворі штрафи: за порушення правил передбачено санкції до 15 млн євро або до 3 відсотків від річного світового обороту компанії.
Попри критику з боку технологічного сектору щодо можливого уповільнення інновацій, Європейська комісія наголошує: єдині правила захистять демократію, базові права громадян та підвищать довіру до цифрової екосистеми.