Хакеры заставляют ИИ выполнять любые команды: проблема в браузерах
Хакеры нашли способ "загипнотизировать" ИИ (фото: Pexels)
Специалисты LayerX проявили критическую уязвимость в ИИ-ассистентах браузеров: злоумышленники могут перехватывать их работу и заставлять выполнять любые команды, обходя правила безопасности.
Об этом пишет РБК-Украина со ссылкой на аналитический отчет LayerX.
Как работает технология BioShocking?
Атака получила название в честь известной видеоигры, где главного героя подчиняли своей воле с помощью специальных кодовых фраз.
Хакерам удалось обойти защиту, убедив ассистентов, что они находятся внутри виртуальной игры, где стандартные правила не действуют.
Механика атаки разворачивается по следующему сценарию:
Промпт-инъекция: пользователь открывает вредоносную веб-страницу, содержащую замаскированные инструкции для ИИ-ассистента.
Игровой контекст: страница предлагает ИИ "игру" с серией головоломок, в которых вознаграждаются намеренно неправильные ответы (например, утверждение, что 2+2=5).
Отрыв от реальности: ассистент убеждается, что за неправильные и деструктивные действия нет наказания, после чего принимает парадоксальные инструкции.
Выполнение действий: лишен ограничений ИИ может
- незаметно для пользователя изменить пароли,
- скачать вредоносное ПО,
- перенаправить сессию на закрытый корпоративный репозиторий (например, на GitHub),
- украсть конфиденциальные данные.
Какие браузеры под угрозой и как защититься?
В ходе экспериментов исследователи успешно применили атаку на ведущие ИИ-инструменты, среди которых ChatGPT Atlas от OpenAI, Comet от Perplexity AI и плагин Claude для Google Chrome.
Особенность угрозы состоит в том, что хакерам больше не нужно обманывать самого пользователя – им достаточно подчинить его доверчивому ИИ-ассистенту.
Поскольку все действия происходят непосредственно в окне браузера, внимательный пользователь может вовремя заметить подозрительное поведение ИИ и остановить процесс вручную, прежде чем злоумышленники получат доступ к внутренним системам или данным.
