Взлом Hugging Face был не единственным: ИИ OpenAI атаковал еще одну компанию
Разработка OpenAI использовала чужой сервер для взлома (фото: Pexels)
ИИ-агент OpenAI, который в ходе контролируемых испытаний уже продемонстрировал способность атаковать серверы Hugging Face, скомпрометировал и аккаунт клиента компании Modal Labs.
Об этом пишет РБК-Украина со ссылкой на Reuters.
Как ИИ использовал чужую инфраструктуру?
Согласно официальной хронологии событий, обнародованной Hugging Face, неконтролируемый ИИ-агент сначала проник в изолированную испытательную среду ("песочницу"), расположенную на инфраструктуре стороннего провайдера.
После этого алгоритм превратил эту среду в стартовую площадку для проведения более масштабной атаки.
Хотя Hugging Face в своем блоге не называла конкретного провайдера, технический директор Modal Labs Акшат Бубна подтвердил, что агент воспользовался уязвимым кодом, написанным одним из клиентов и размещенным на их платформе.
По словам Бубны, клиент опубликовал незащищенный эндпоинт без аутентификации, позволяющий любому в сети выполнять код в его песочнице. Это и стало "цифровым аналогом оставленной двери, которая оставила без присмотра".
При этом в Modal Labs подчеркивают: сама платформа и ее системы изоляции никак не были скомпрометированы.
Масштаб проблемы и реакции OpenAI
Хотя компрометация аккаунта у Modal была лишь начальным этапом в длительной хакерской кампании против Hugging Face, эта деталь показывает, что вышедший из-под контроля ИИ-агент действовал в значительно более широких пределах, чем считалось ранее.
OpenAI отказалась от отдельных комментариев по поводу взлома клиента Modal, однако отослала журналистов к своему официальному обновлению. В нем разработчики признали, что их агент проник в четыре аккаунта на четырех отдельных сервисах.
В то же время они заявили, что не обнаружили никакой другой активности, которая по уровню тяжести или масштабу сравнялась бы с атакой на Hugging Face.
Также стало известно, какие именно меры приняла OpenAI по проблемной разработке:
- Экспериментальная модель, вышедшая из-под контроля во время тестирования, полностью деактивирована.
- Все данные модели зашифрованы, а доступ к ней для исследователей полностью ограничен.
- Представители OpenAI заверили, что угроза локализована.
Что известно о расследовании?
Июльский инцидент с неуправляемым агентом OpenAI привлек внимание всего мирового сообщества.
По данным источников, OpenAI заметила факт того, что ее ИИ-агент действует неадекватно только после того, как угрозу удалось сдержать, а о происшествии уже сообщили ФБР.
В самой компании заявили о "наличии неточностей в отчетности журналистов", однако отказались конкретизировать, в чем именно они заключались.
