Ваш ChatGPT може видати корпоративні секрети: як уникнути зливу даних
Звичайний запит до ШІ може стати витоком корпоративних даних. Працівники компаній регулярно передають чат-ботам листи, документи та іншу чутливу інформацію, не видаляючи приватні деталі.
РБК-Україна з посиланням на LRT розібралася, як дотримуватися цифрової гігієни і чому це важливо.
Прихована загроза у робочій рутині
Бажаючи просто покращити стиль електронного листа або швидко опрацювати файл, працівники можуть копіювати у чат-бот увесь текст повністю.
Разом із ним до публічних ШІ-моделей потрапляють імена, номери телефонів, адреси, фінансові показники та інші дані, які взагалі не потрібні для роботи з вдосконалення тексту.
Зазвичай під загрозою витоку уявляють паролі чи номери банківських карток, однак реальну небезпеку становлять звичайні робочі файли:
- Чернетки договорів містять умови переговорів, цінові пропозиції, фінансову політику тощо.
- Листування з партнерами розкриває деталі внутрішніх бізнес-процесів та планів з масштабування.
- Внутрішні звіти містять персональні дані клієнтів та співробітників.
Кожен окремий фрагмент тексту може здаватися неважливим. Проте ШІ здатен скласти з цих окремих деталей, повністю деталізовану картину про людину або цілу організацію.
Правило "тесту на публічність" та нові стандарти цифрової гігієни
Під час використання публічних чат-ботів варто дотримуватися чіткої межі: якщо інформація може бути використана для встановлення особи, доступу до фінансів чи розкриття конфіденційних угод, їй не місце у вікні діалогу з ШІ.
Фахівці з кібербезпеки рекомендують проводити простий "тест на публічність" перед відправкою будь-якого тексту: варто чесно відповісти собі на запитання, чи почуватиметеся ви спокійно, якщо цей текст раптово опиниться у відкритому доступі в інтернеті.
Якщо відповідь "ні", надсилати його нейромережі категорично заборонено.
Крім того, важливо розрізняти інструменти:
Публічні чат-боти можуть використовувати вхідні дані для подальшого навчання своїх моделей, а це створює ризик витоку.
Корпоративні ШІ-рішення надають повний контроль над даними, гарантують конфіденційність і не використовують інформацію компанії для зовнішнього навчання.
Сучасна цифрова гігієна вимагає змінити підхід до безпеки. Якщо раніше головним завданням був захист пристроїв від вірусів та хакерів, то сьогодні не менш важливо контролювати, яку інформацію ми добровільно передаємо технологіям.
У більшості випадків текст достатньо просто знеособити - замінити реальні імена та назви на нейтральні позначення на кшталт "Клієнт А" чи "Компанія Х", вилучивши точні цифри та контакти.
Нейромережа так само якісно виконає завдання, але ризики витоку зведуться практично до нуля.