ChatGPT і Claude можуть "зливати" ваші чати: що виявили науковці

Куди зливають ваші чати?

Дослідники ідентифікували три критичні проблеми:

• передачу прямих посилань (пермалінків) на діалоги стороннім сервісам;
• можливість прив’язки розмов до реальної особистості;
• невідповідність політик приватності реальному стану справ.

Відкритість даних

Деякі системи мають слабкий контроль доступу. Наприклад, наявність прямого посилання на чат дозволяє будь-кому - включно з рекламними трекерами - бачити його вміст.

Так, сервіси Grok та Perplexity передають URL-адреси розмов трекерам Meta Pixel. Ба більше, Grok може розкривати навіть дослівний текст повідомлень через метадані Open Graph, які збирає TikTok.

Як зазначає співавтор дослідження Гільєрмо Суарес-Тангіль, ці практики є продовженням бізнес-моделей, заснованих на зборі даних, але тепер вони перекочували в екосистему генеративного ШІ.

Зв'язок із реальною ідентичністю

Комбінація файлів cookie, зашифрованих адрес електронної пошти та методів серверного відстеження дозволяє рекламним компаніям ідентифікувати користувача.

Навіть якщо ви не вказуєте своє ім'я у чаті, трекери здатні поєднати активність у ШІ-системі з вашим загальним цифровим профілем.

"Більшість користувачів не має можливості дізнатися, що це відбувається; в інтерфейсі немає нічого видимого, що підказало б їм про це. Відмова від необов’язкових файлів cookie допомагає у деяких випадках, але наше дослідження показує, що цього не завжди достатньо", - зазначає науковець Анікет Гіріш.

Юридична колізія та "замилювання очей"

Дослідження показало, що наявні елементи керування приватністю в інтерфейсах часто вводять користувачів в оману. Політики конфіденційності визнають обмін даними з "діловими партнерами", однак ніде чітко не сказано, що частиною цієї інформації є самі розмови.

Юрист Хорхе Гарсія Ерреро, який консультував команду науковців, порівнює цю ситуацію з відомими дисклеймерами про помилки ШІ.

"Попередження про те, що наша найчутливіша інформація може потрапити до рекламної індустрії, заслуговує на такий самий рівень уваги, як і всюдисуще застереження "ШІ може помилятися, будь ласка, перевіряйте відповіді", - говорить фахівець.

Чи є вихід?

Наразі автори дослідження називають свої висновки попередніми, проте вони вже сигналізують про необхідність посилення регулювання ШІ з боку держави (зокрема в межах GDPR).

Поки платформи не змінять свої підходи на системному рівні, користувачам радять бути максимально обережними: не вводити персональні дані, не ділитися паролями чи фінансовою інформацією, навіть якщо чатбот здається "дружнім" співрозмовником, що підтверджує повну приватність діалогу.