"Заплутався і прочитав": ШІ від Meta спіймали на читанні приватних повідомлень

Позиція Meta: три рівні дозволів та захист macOS

Віцепрезидент Meta з комунікацій Енді Стоун заявив, що інтеграція з додатком "Повідомлення" у версії Muse для Mac є повністю добровільною.

За його словами, інструмент не має технічної змоги читати листування без активації двох ключів:

• повного доступу до диска (Full Disk Access),
• конектора повідомлень.

Технічний керівник Meta Superintelligence Labs Девід Сінглтон додав, що процес надання дозволів складається з трьох окремих етапів на рівні додатка та операційної системи macOS:

• Користувач має вручну надати Full Disk Access через налаштування macOS;
• Система вимагає повторного підтвердження дії;
• Надання дозволу супроводжується повним перезапуском додатку Muse, що унеможливлює випадкове увімкнення.

Сінглтон підкреслив, що ці захисні бар'єри неможливо обійти, навіть якщо у самому додатку є програмний баг.

Читайте більше: Приватність на першому місці: Meta випустила нові окуляри Ray-Ban без камер

Аргументи журналіста та версія про сповіщення

Джейсон Атен стверджує, що на його пристрої функція Full Disk Access була вимкнена, проте ШІ все одно прочитав текст листів.

На запитання про те, як це взагалі сталося, сам ШІ-агент відповів, що зчитав інформацію з вхідних банерних сповіщень на Mac.

У Meta заперечують і цю версію. За словами Сінглтона, штучний інтелект "заплутався" й надав некоректне пояснення власних дій.

Компанія направила журналіста до офіційної документації з архітектури безпеки та програми пошуку вразливостей (bug bounty).

Репутаційні ризики

Суперечка виникла на тлі чергового судового рішення в Нью-Мексико, де присяжні визнали Meta винною у введенні користувачів в оману щодо використання даних у справі, пов'язаній із Cambridge Analytica 2018 року.

Це не перший випадок скарг на перевищення повноважень ШІ-агентом Muse.

Раніше блогер Метт Робб заявив, що під час продажу товарів через Facebook Marketplace ШІ некоректно обробив завдання, через що покупцеві відкрилася приватна адреса блогера.

У цьому випадку Meta провела розслідування й встановила, що користувач самостійно надав розширені права, які призвели до витоку.

Експерти зазначають, що здатність американського техногіганта завоювати ринок споживчого ШІ напряму залежить від довіри користувачів, а публічні заперечення замість спільного розслідування інцидентів із журналістами лише шкодять репутації продукту.