Досьє на кожного: Meta Muse звинуватили у цифровому стеженні
Muse створює досьє на партнерів та друзів користувачів послуг Meta (фото: Minh Connors/Bloomberg)
Meta Muse збирає детальну інформацію про людей із близького оточення користувачів - це виявили під час аналізу внутрішніх документів системи. При цьому ШІ отримує доступ до банківських рахунків, месенджерів та інших персональних даних.
Про це пише РБК-Україна з посиланням на WIRED і витік системних промптів.
Автоматичне створення профілів оточення
Усі системні інструкції та файли Muse виявилися легкодоступними: ШІ-агент відкрито ділиться ними, якщо користувач просто попросить про це у чаті.
Незалежний дослідник Каран Джоші та фахівці The Future Society витягли системні промпти асистента й з'ясували, що одна з ключових команд алгоритму - це щогодинний процес створення та оновлення окремої сторінки ("a page for every person in the user's life") для кожної людини з оточення користувача.
Досьє формуються навіть на тих осіб, які самі не є користувачами Muse чи сервісів Meta.
Читайте більше: Приватність на першому місці: Meta випустила нові окуляри Ray-Ban без камер
Структура цифрових карт містить
Персональні дані та факти: ім'я, формат зв'язку з користувачем, місце проживання, професія, важливі дати (дні народження, річниці).
Контекст та спільні цілі: регулярні теми обговорень (наприклад, майбутній переїзд або спільне накопичення коштів), спільні поїздки та минулі вирішені конфлікти.
Аналіз стосунків: оцінка ступеня близькості, патерни взаємодії та визначення поточних потреб у спілкуванні.
Параметри зміцнення зв'язків (Strengthening): автоматичні пропозиції для покращення стосунків - привід для дзвінка, теми для відновлення розмови чи ідеї для подарунків.
Не пропустіть: Тамагочі від Цукерберга: Meta представила брелок Muse Charm з ШІ та сканером відбитків
Скандали з шопінгом, уразливості та позиція розробників
Прагнення Meta створити персоналізованого помічника вже призвело до серйозних застережень з боку безпеківців та партнерів.
Яких саме?
Блокування з боку Amazon: у вересні компанія Amazon заблокувала Muse можливість здійснювати покупки у своєму онлайн-магазині через те, що Meta не попередила про запуск асистента заздалегідь, а також через занепокоєння щодо захисту облікових даних покупців;
Вразливість нульового дня (Zero-Day): Meta нещодавно закрила критичну прогалину у версії Muse для Mac, яка дозволяла сторонньому шкідливому ПЗ перехоплювати управління асистентом та використовувати надані йому користувачем дозволи;
Питання приватності: дослідники зазначають, що прагнення ШІ дізнатися про людину "як про друга" є "тривожним зворотним боком безкоштовних послуг".
У коментарі виданню представники Meta заявили, що збір інформації відбувається лише з публічних джерел та даних, якими користувач добровільно ділиться з асистентом.
Всі відомості зберігаються у захищеній віртуальній машині (VM) кожного окремого користувача, яка недоступна для інших асистентів, а сам користувач має змогу в будь-який момент очистити пам'ять ШІ.
Попри це, експерти з етики наголошують: через такі інструменти компанія отримує безпрецедентний обсяг контекстуальних даних про приватне життя людей без їхньої прямої згоди.
