Пробили защиту за 12 часов: как ИИ-агенты получили доступ к закрытым чатам Anthropic

Что известно о кибератаке?

Стартап Cathedral, основанный бывшими специалистами американской службы DOGE, испытал защиту Anthropic в рамках официальной программы по поиску уязвимостей (bug bounty).

Исследователи несколько дней пытались пробиться через прямо защищенное ПО компании, но в конце концов изменили тактику и использовали пробелы в сторонних корпоративных сервисах, которые Anthropic применяет для продаж, HR-задач и администрирования.

Запустив автономных ИИ-агентов, специалисты всего за 12 часов открыли доступ к чувствительной внутренней информации, а именно:

• Стенограммы внутренних совещаний и расшифровок встреч.
• Информация о кадровых решениях, рабочих предложениях и размерах заработных плат.
• Сообщений в Slack, где сотрудники обсуждали новые передовые ИИ-модели.

В то же время в Anthropic отмечают, что исследователи получили доступ только к ограниченному набору кадровых, торговых и IT-систем.

Прямого доступа к исходному коду, весовым коэффициентам моделей или запросам и ответам пользователей чат-бота Claude хакерам получить не удалось.

Читайте больше: Вирусы, яды и хакерство: Anthropic разоблачила опасные манипуляции с Claude

Беспокойство Белого дома и реакция на уязвимость

Инцидент вызвал волну негодования в Вашингтоне. Высокопоставленное должностное лицо администрации президента США Дональда Трампа заявило на условиях анонимности, что отчет Cathedral "вызывает беспокойство относительно национальной безопасности".

Чиновник подчеркнул, что если молодой стартап сумел за считанные часы пробить защиту компании, разрабатывающей технологии, сравнимые по мощности с ядерным оружием, то хакеры по иностранным разведкам могут сделать это так же легко.

Эксперты по кибербезопасности отмечают, что ситуация демонстрирует системную проблему отрасли. Даже ведущие ИИ-разработчики остаются беззащитными из-за использования стандартного стороннего софта, объединяющего корпоративные сети.

Отмечается, что Cathedral, который инвесторы оценивают в 1,4 миллиарда долларов, тесно сотрудничает с правительством США и получает контракты от нескольких федеральных агентств.

Не пропустите: Опасная ошибка Anthropic: Claude Mythos 5 сломал капчу и атаковал интернет

Конфликты, расследования и меры безопасности

Случай произошел на фоне длительного напряжения между Anthropic и Пентагоном, ранее ограничивал использование продуктов компании в военных целях из-за ее отказа разрабатывать автономное оружие.

Кроме того, бывшие сотрудники Anthropic уже выражали обеспокоенность по поводу небрежного отношения к безопасности.

В частности, в сентябре один из разработчиков публично уволился, заявив, что компания делает неоправданные риски, опираясь на обычные корпоративные мессенджеры типа Slack для обсуждения критических разработок.

Представители Anthropic уверяют, что их системы мониторинга зафиксировали часть действий Cathedral еще до подачи официального отчета, и доступ был заблокирован в тот же день.

Проблемное стороннее ПО временно отключили и вернули к работе только после того, как разработчики этих сервисов подтвердили полное устранение обнаруженных уязвимостей.