"Запутался и прочитал": ИИ от Meta поймали на чтении частных сообщений
Meta отрицает слежку за частными сообщениями (фото: Getty Images)
ИИ Meta Muse якобы получил доступ к личным сообщениям журналиста без его разрешения - техногигант категорически это отрицает. Meta заявляет, что защита macOS не позволяет приложению читать такие данные без прямого пользовательского согласия.
Об этом информирует РБК-Украина со ссылкой на TechCrunch.
Позиция Meta: три уровня разрешений и защита macOS
Вице-президент Meta по коммуникациям Энди Стоун заявил, что интеграция с приложением "Сообщения" в версии Muse для Mac полностью добровольна.
По его словам, инструмент не имеет технической возможности читать переписку без активации двух ключей:
- полный доступ к диску (Full Disk Access),
- коннектор сообщений.
Технический руководитель Meta Superintelligence Labs Дэвид Синглтон добавил, что процесс предоставления разрешений состоит из трех отдельных этапов на уровне приложения и операционной системы macOS:
- Пользователь должен вручную предоставить Full Disk Access через настройки macOS;
- Система требует повторного подтверждения;
- Предоставление разрешения сопровождается полным перезапуском приложения Muse, что делает невозможным случайное включение.
Синглтон подчеркнул, что эти защитные барьеры невозможно обойти, даже если в самом приложении есть программный баг.
Читайте больше : Конфиденциальность на первом месте: Meta выпустила новые очки Ray-Ban без камер
Аргументы журналиста и версия уведомления
Джейсон Атен утверждает, что на его устройстве функция Full Disk Access была выключена, однако ИИ все равно прочел текст писем.
На вопрос о том, как это вообще произошло, сам ИИ-агент ответил, что считал информацию по входящим баннерным уведомлениям на Mac.
В Meta отрицают и эту версию. По словам Синглтона, искусственный интеллект "запутался" и дал некорректное объяснение собственных действий.
Компания направила журналиста в официальную документацию по архитектуре безопасности и программу поиска уязвимостей (bug bounty).
Репутационные риски
Спор возник на фоне очередного судебного решения в Нью-Мексико, где присяжные сочли Meta виновным в введении пользователей в заблуждение относительно использования данных по делу, связанному с Cambridge Analytica 2018 года.
Это не первый случай жалоб на превышение полномочий ИИ-агентом Muse.
Ранее блоггер Мэтт Робб заявил, что во время продажи товаров через Facebook Marketplace ИИ некорректно обработал задачу, из-за чего покупателю открылся частный адрес блоггера.
В этом случае Meta провела расследование и установила, что пользователь самостоятельно предоставил расширенные права, приведшие к утечке.
Эксперты отмечают, что способность американского техногиганта завоевать рынок потребительского ИИ напрямую зависит от доверия пользователей, а публичные возражения вместо совместного расследования инцидентов с журналистами вредят репутации продукта.
