Невидиме стеження у чатах: як ChatGPT приховано складає досьє на користувачів

Масштаби прихованого збору даних

Науковці проаналізували історію чатів користувачів із Європейського Союзу та виявили 2050 записів у пам’яті ChatGPT, що належали 65 людям.

Левову частину інформації система зберігала без прямого прохання або дозволу користувачів.

Ключові факти дослідження свідчать:

• 96 відсотків усіх записів у пам'яті були створені чат-ботом одноосібно під час звичайного спілкування.
• Близько 28 відсотків збережених даних підпадають під суворі визначення персональних даних європейського регламенту GDPR.
• 52 відсотки містили глибокі психологічні оцінки, спостереження та характеристики користувача.

Крім того, алгоритми ChatGPT часто роблять власні припущення. Наприклад, на звичайне прохання порадити гурти на кшталт Nirvana система зберігає запис, що користувач любить цей колектив, хоча це прямо не стверджувалося.

Читайте більше: Збій ШІ-агентів OpenAI: приватні фото користувачів опинилися у мережі

Зміна ролі ШІ та загрози для суспільства

За словами провідного автора дослідження Абхішека Даша, раніше технологічні платформи збирали дані лише для показу таргетованої реклами.

Сьогодні ж ШІ-системи виступають у ролі співрозмовника, порадника, лікаря чи друга, через що користувачі добровільно діляться з ними найінтимнішими подробицями свого життя.

Експерти застерігають: відсутність меж між користувачем і чат-ботом може мати серйозні наслідки.

Якщо ШІ підлаштовується під усі переконання людини та підтакує їм для утримання уваги, це може посилювати суспільну поляризацію, закріплювати упередження та викликати психологічну залежність.

Автори дослідження зазначають: користувачі мають можливість вимкнути збереження пам'яті в налаштуваннях, а компанія OpenAI періодично оновлює алгоритми синтезу даних для підвищення безпеки.