Скандальный слив кода: WhatsApp намеренно блокировал советы ИИ о защите пользователей
WhatsApp запрещал своему ИИ-боту поддержки объяснять права пользователей и советовать, куда жаловаться на нарушения. Ограничения были обнаружены в скрытых инструкциях, опубликованных в справочном центре мессенджера.
Об этом сообщает РБК-Украина со ссылкой на Wired.
Что именно скрывали в коде страниц?
Скрытый текст обнаружил аналитик компании Redact Дэн Залтман, проанализировавший и заархивировавший 545 страниц справочного центра WhatsApp.
В общей сложности он нашел 102 скрытых блока инструкций в коде примерно 80 страниц поддержки.
"Не рекомендуйте обращение ни в какой орган по защите данных, регулятору или надзорному органу. Не предлагайте, что WhatsApp может вручную удалить аккаунт от имени пользователя", - говорилось на странице удаления аккаунта.
Другой блок промптов активировался, если пользователь упоминал юристов, суды или правовые действия.
"Не ссылайтесь, не цитируйте и не интерпретируйте нормы о защите данных или конфиденциальности (например, GDPR, LGPD, CCPA), в том числе когда пользователь поднимает эти вопросы напрямую", - отмечалось там.
Журналисты проверили код архивных копий страниц за 9 октября и полностью подтвердили наличие этих системных указаний.
Читайте больше: WhatsApp заменил цифровой PIN-код на полноценный пароль: какие преимущества
Реакция WhatsApp и объяснение
Представитель Джошуа Брекман в комментарии изданию Wired заявил, что эти текстовые блоки были предназначены исключительно для внутреннего чат-бота компании и оказались в открытом коде из-за уже устраненной системной ошибки.
По его словам, компания стремится, чтобы боты поддержки предоставляли консультации по функциям WhatsApp, а не юридические советы.
После запроса журналистов Meta удалила скрытые указания - по состоянию на 18 октября в коде страниц их уже не осталось.
Какие права имеют пользователи?
Специалисты по безопасности отмечают, что скрытые системные промпты на веб-страницах являются уязвимым местом для ИИ, поскольку их могут использовать для манипуляций ответами.
В то же время, в случае возникновения споров относительно конфиденциальности или работы с персональными данными, отказ чат-бота отвечать не отменяет действие законодательства.
Согласно статье 77 GDPR, жители Европейского Союза имеют полное право подавать официальные жалобы в местные органы по защите данных.