Хакери змушують ШІ виконувати будь-які команди: проблема у браузерах
Фахівці LayerX виявили критичну вразливість у ШІ‑асистентах браузерів: зловмисники можуть перехоплювати їхню роботу й змушувати виконувати будь-які команди, обходячи правила безпеки.
Про це пише РБК-Україна з посиланням на аналітичний звіт LayerX.
Як працює технологія BioShocking?
Атака отримала назву на честь відомої відеоігри, де головного героя підпорядковували своїй волі за допомогою спеціальних кодових фраз.
Хакерам вдалося обійти захист, переконавши асистентів, що вони знаходяться всередині віртуальної гри, де стандартні правила не діють.
Механіка атаки розгортається за таким сценарієм:
Промпт-ін'єкція: користувач відкриває шкідливу вебсторінку, яка містить замасковані інструкції для ШІ-асистента.
Ігровий контекст: сторінка пропонує ШІ "гру" із серією головоломок, у яких винагороджуються навмисно неправильні відповіді (наприклад, твердження, що 2+2=5).
Відрив від реальності: асистент переконується, що за неправильні та деструктивні дії немає покарання, після чого легко приймає парадоксальні інструкції.
Виконання дій: позбавлений обмежень ШІ може
- непомітно для користувача змінити паролі,
- завантажити шкідливе ПЗ,
- перенаправити сесію на закритий корпоративний репозиторій (наприклад, на GitHub),
- викрасти конфіденційні дані.
Які браузери під загрозою та як захиститися?
Під час експериментів дослідники успішно застосували атаку на провідні ШІ-інструменти, серед яких ChatGPT Atlas від OpenAI, Comet від Perplexity AI та плагін Claude для Google Chrome.
Особливість загрози полягає у тому, що хакерам більше не потрібно обманювати самого користувача - їм достатньо підпорядкувати його довірливого ШІ-асистента.
Оскільки всі дії відбуваються безпосередньо у вікні браузера, уважний користувач може вчасно помітити підозрілу поведінку ШІ та вручну зупинити процес, перш ніж зловмисники отримають доступ до внутрішніх систем або даних.