ИИ стал хакером: впервые сам похитил данные и потребовал выкуп

Абсолютно автономный эксплойт

Во время зафиксированной кибератаки цифровой ИИ-агент действовал как настоящий хакер. Алгоритм

• самостоятельно проник на уязвимый сервер,
• похитил конфиденциальные данные,
• смог беспрепятственно переместиться по внутренней сети жертвы,
• успешно зашифровал более 1300 важных конфигурационных записей производственного сервера MySQL.

Более того, ИИ без помощи кураторов написал уникальный текст с требованием выкупа и оставил хакерский Bitcoin-адрес для перевода средств.

ШИ проникал в системы из-за известной ошибки в Langflow - популярном инструменте с открытым кодом, который программисты используют для создания приложений на базе больших языковых моделей (LLM).

Эксперты больше всего поразили скорость и прозрачность действий алгоритма. Когда при попытке входа возникла ошибка, ИИ-агент смог самостоятельно проанализировать проблему и исправить неудачную попытку авторизации всего за 31 секунду.

При этом компьютерный вирус подробно описывал всю свою логику и ход мыслей в комментариях к коду на обычном человеческом языке.

Кто руководил ИИ-преступником?

Несмотря на то, что за клавиатурой во время самого излома не было человека, кибермошенник все же участвовал в подготовке.

Человек избрал конкретную жертву, настроил базовую инфраструктуру, подготовил серверы для сбора похищенной информации и запустил работу агента.

Пароли для первичного входа также получили заранее из-за прошлых уязвимостей и просто передали работу.

При чистке сервера ИИ пытался забрать все самое ценное.

Добычей ИИ-хакера стали:

• секретные API-ключи провайдеров искусственного интеллекта (OpenAI, Anthropic, DeepSeek и Gemini);
• пароли и ключи доступа к облачным хранилищам;
• файлы конфигурации баз данных;
• цифровые криптовалютные кошельки.

Специалисты по безопасности пока не смогли установить точную ИИ-модель, управлявшую кибератаками, ведь не имеют доступа к внутренним настройкам вируса JadePuffer.

Однако исследователи предполагают, что злоумышленники использовали одну из известных моделей с открытым кодом (open-weight), с которой предварительно полностью стерли все заложенные разработчиками ограничения безопасности и лимиты.

Аналитики предупреждают, что автоматизация атак хакеров снимет ограничения на количество одновременных нападений. Поскольку запуск такого ИИ-робота стоит дешево, вскоре сеть может затопить волна из тысяч одновременно действующих автономных кампаний.