Невидимая слежка в чатах: как ChatGPT скрыто составляет досье на пользователей

Масштабы скрытого сбора данных

Ученые проанализировали историю чатов пользователей Европейского Союза и обнаружили 2050 записей в памяти ChatGPT, принадлежавших 65 людям.

Львиную часть информации система хранила без прямой просьбы или разрешения пользователей.

Ключевые факты исследования свидетельствуют:

• 96 процентов всех записей в памяти были созданы чат-ботом единолично во время обычного общения.
• Около 28 процентов сохраненных данных подпадают под строгие определения персональных данных европейского регламента GDPR.
• 52 процента содержали глубокие психологические оценки, наблюдения и характеристики пользователя.

Кроме того, алгоритмы ChatGPT часто делают собственные предположения. Например, по обычной просьбе посоветовать группы вроде Nirvana система сохраняет запись, что пользователь любит этот коллектив, хотя это прямо не утверждалось.

Читайте больше: Сбой ИИ-агентов OpenAI: частные фото пользователей оказались в сети

Изменение роли ИИ и угрозы для общества

По словам ведущего автора исследования Абхишека Даша, ранее технологические платформы собирали данные только для показа таргетированной рекламы.

Сегодня же ИИ-системы выступают в роли собеседника, советчика, врача или друга, поэтому пользователи добровольно делятся с ними самыми интимными подробностями своей жизни.

Эксперты предостерегают: отсутствие границ между пользователем и чат-ботом может иметь серьезные последствия.

Если ИИ подстраивается во все убеждения человека и поддакивает им для удержания внимания, это может усиливать общественную поляризацию, закреплять предубеждения и вызывать психологическую зависимость.

Авторы исследования отмечают: пользователи могут отключить сохранение памяти в настройках, а компания OpenAI периодически обновляет алгоритмы синтеза данных для повышения безопасности.