"Запутался и прочитал": ИИ от Meta поймали на чтении частных сообщений

Позиция Meta: три уровня разрешений и защита macOS

Вице-президент Meta по коммуникациям Энди Стоун заявил, что интеграция с приложением "Сообщения" в версии Muse для Mac полностью добровольна.

По его словам, инструмент не имеет технической возможности читать переписку без активации двух ключей:

• полный доступ к диску (Full Disk Access),
• коннектор сообщений.

Технический руководитель Meta Superintelligence Labs Дэвид Синглтон добавил, что процесс предоставления разрешений состоит из трех отдельных этапов на уровне приложения и операционной системы macOS:

• Пользователь должен вручную предоставить Full Disk Access через настройки macOS;
• Система требует повторного подтверждения;
• Предоставление разрешения сопровождается полным перезапуском приложения Muse, что делает невозможным случайное включение.

Синглтон подчеркнул, что эти защитные барьеры невозможно обойти, даже если в самом приложении есть программный баг.

Читайте больше : Конфиденциальность на первом месте: Meta выпустила новые очки Ray-Ban без камер

Аргументы журналиста и версия уведомления

Джейсон Атен утверждает, что на его устройстве функция Full Disk Access была выключена, однако ИИ все равно прочел текст писем.

На вопрос о том, как это вообще произошло, сам ИИ-агент ответил, что считал информацию по входящим баннерным уведомлениям на Mac.

В Meta отрицают и эту версию. По словам Синглтона, искусственный интеллект "запутался" и дал некорректное объяснение собственных действий.

Компания направила журналиста в официальную документацию по архитектуре безопасности и программу поиска уязвимостей (bug bounty).

Репутационные риски

Спор возник на фоне очередного судебного решения в Нью-Мексико, где присяжные сочли Meta виновным в введении пользователей в заблуждение относительно использования данных по делу, связанному с Cambridge Analytica 2018 года.

Это не первый случай жалоб на превышение полномочий ИИ-агентом Muse.

Ранее блоггер Мэтт Робб заявил, что во время продажи товаров через Facebook Marketplace ИИ некорректно обработал задачу, из-за чего покупателю открылся частный адрес блоггера.

В этом случае Meta провела расследование и установила, что пользователь самостоятельно предоставил расширенные права, приведшие к утечке.

Эксперты отмечают, что способность американского техногиганта завоевать рынок потребительского ИИ напрямую зависит от доверия пользователей, а публичные возражения вместо совместного расследования инцидентов с журналистами вредят репутации продукта.