Досьє на кожного: Meta Muse звинуватили у цифровому стеженні

Автоматичне створення профілів оточення

Усі системні інструкції та файли Muse виявилися легкодоступними: ШІ-агент відкрито ділиться ними, якщо користувач просто попросить про це у чаті.

Незалежний дослідник Каран Джоші та фахівці The Future Society витягли системні промпти асистента й з'ясували, що одна з ключових команд алгоритму - це щогодинний процес створення та оновлення окремої сторінки ("a page for every person in the user's life") для кожної людини з оточення користувача.

Досьє формуються навіть на тих осіб, які самі не є користувачами Muse чи сервісів Meta.

Читайте більше: Приватність на першому місці: Meta випустила нові окуляри Ray-Ban без камер

Структура цифрових карт містить

Персональні дані та факти: ім'я, формат зв'язку з користувачем, місце проживання, професія, важливі дати (дні народження, річниці).

Контекст та спільні цілі: регулярні теми обговорень (наприклад, майбутній переїзд або спільне накопичення коштів), спільні поїздки та минулі вирішені конфлікти.

Аналіз стосунків: оцінка ступеня близькості, патерни взаємодії та визначення поточних потреб у спілкуванні.

Параметри зміцнення зв'язків (Strengthening): автоматичні пропозиції для покращення стосунків - привід для дзвінка, теми для відновлення розмови чи ідеї для подарунків.

Не пропустіть: Тамагочі від Цукерберга: Meta представила брелок Muse Charm з ШІ та сканером відбитків

Скандали з шопінгом, уразливості та позиція розробників

Прагнення Meta створити персоналізованого помічника вже призвело до серйозних застережень з боку безпеківців та партнерів.

Яких саме?

Блокування з боку Amazon: у вересні компанія Amazon заблокувала Muse можливість здійснювати покупки у своєму онлайн-магазині через те, що Meta не попередила про запуск асистента заздалегідь, а також через занепокоєння щодо захисту облікових даних покупців;

Вразливість нульового дня (Zero-Day): Meta нещодавно закрила критичну прогалину у версії Muse для Mac, яка дозволяла сторонньому шкідливому ПЗ перехоплювати управління асистентом та використовувати надані йому користувачем дозволи;

Питання приватності: дослідники зазначають, що прагнення ШІ дізнатися про людину "як про друга" є "тривожним зворотним боком безкоштовних послуг".

У коментарі виданню представники Meta заявили, що збір інформації відбувається лише з публічних джерел та даних, якими користувач добровільно ділиться з асистентом.

Всі відомості зберігаються у захищеній віртуальній машині (VM) кожного окремого користувача, яка недоступна для інших асистентів, а сам користувач має змогу в будь-який момент очистити пам'ять ШІ.

Попри це, експерти з етики наголошують: через такі інструменти компанія отримує безпрецедентний обсяг контекстуальних даних про приватне життя людей без їхньої прямої згоди.