Досье на каждого: Meta Muse обвинили в цифровой слежке
Meta Muse собирает подробную информацию о людях из близкого окружения пользователей - это было обнаружено при анализе внутренних документов системы. При этом ИИ получает доступ к банковским счетам, мессенджерам и другим персональным данным.
Об этом пишет РБК-Украина со ссылкой на WIRED и утечку системных промптов.
Автоматическое создание профилей окружения
Все системные инструкции и файлы Muse оказались легкодоступными: ИИ-агент открыто делится ими, если пользователь просто попросит об этом в чате.
Независимый исследователь Каран Джоши и специалисты The Future Society извлекли системные промпты ассистента и выяснили, что одна из ключевых команд алгоритма - это ежечасный процесс создания и обновления отдельной страницы для каждого человека из окружения пользователя.
Досье формируются даже для тех лиц, которые сами не являются пользователями Muse или сервисов Meta.
Читайте больше: Конфиденциальность на первом месте: Meta выпустила новые очки Ray-Ban без камер
Структура цифровых карт содержит
Персональные данные и факты: имя, формат связи с пользователем, место жительства, профессия, важные даты (дни рождения, годовщины).
Контекст и общие цели: регулярные темы обсуждений (например, предстоящий переезд или совместное накопление средств), совместные поездки и прошлые разрешенные конфликты.
Анализ отношений: оценка степени близости, паттерны взаимодействия и определение текущих потребностей в общении.
Параметры укрепления связей (Strengthening): автоматические предложения по улучшению отношений - повод для звонка, темы для возобновления разговора или идеи для подарков.
Не пропустите: Тамагочи от Цукерберга: Meta представила брелок Muse Charm с ИИ и сканером отпечатков
Скандалы с шоппингом, уязвимости и позиция разработчиков
Стремление Meta создать персонализированный помощник уже привело к серьезным оговоркам со стороны безопасности и партнеров.
Каких именно?
Блокировка со стороны Amazon: в сентябре компания Amazon заблокировала Muse возможность совершать покупки в своем онлайн-магазине из-за того, что Meta не предупредила о запуске ассистента заранее, а также из-за беспокойства по защите учетных данных покупателей;
Уязвимость нулевого дня (Zero-Day): Meta недавно закрыла критический пробел в версии Muse для Mac, которая позволяла стороннему вредоносному ПО перехватывать управление ассистентом и использовать предоставленные ему пользователем разрешения;
Вопросы приватности: исследователи отмечают, что стремление ИИ узнать о человеке "как о друге" является "тревожной обратной стороной бесплатных услуг".
В комментарии изданию представители Meta заявили, что сбор информации производится только из публичных источников и данных, которыми пользователь добровольно делится с ассистентом.
Все сведения хранятся в защищенной виртуальной машине (VM) каждого отдельного пользователя, которая недоступна другим ассистентам, а сам пользователь имеет возможность в любой момент очистить память ИИ.
Несмотря на это, эксперты по этике подчеркивают: через такие инструменты компания получает беспрецедентный объем контекстуальных данных о частной жизни людей без их прямого согласия.