Пробили захист за 12 годин: як ШІ-агенти отримали доступ до закритих чатів Anthropic

Що відомо про кібератаку?

Стартап Cathedral, заснований колишніми фахівцями американської служби DOGE, випробував захист Anthropic у межах офіційної програми з пошуку вразливостей (bug bounty).

Дослідники кілька днів намагалися пробитися крізь прямо захищене ПЗ компанії, але зрештою змінили тактику й використали прогалини у сторонніх корпоративних сервісах, які Anthropic застосовує для продажів, HR-завдань та адміністрування.

Запустивши автономних ШІ-агентів, фахівці всього за 12 годин відкрили доступ до чутливої внутрішньої інформації, а саме:

• Стенограм внутрішніх нарад і розшифровок зустрічей.
• Інформації про кадрові рішення, робочі пропозиції та розміри заробітних плат.
• Повідомлень у Slack, де співробітники обговорювали нові передові ШІ-моделі.

Водночас в Anthropic наголошують, що дослідники отримали доступ лише до обмеженого набору кадрових, торговельних та IT-систем.

Прямого доступу до вихідного коду, вагових коефіцієнтів моделей чи запитів і відповідей користувачів чат-бота Claude хакерам здобути не вдалося.

Читайте більше: Віруси, отрути та хакерство: Anthropic викрила небезпечні маніпуляції з Claude

Занепокоєння Білого дому та реакція на вразливість

Інцидент викликав хвилю обурення у Вашингтоні. Високопосадовець адміністрації президента США Дональда Трампа заявив на умовах анонімності, що звіт Cathedral "викликає занепокоєння щодо національної безпеки".

Посадовець підкреслив, що якщо молодий стартап спромігся за лічені години пробити захист компанії, яка розробляє технології, порівнянні за потужністю з ядерною зброєю, то хакери з іноземних розвідок можуть зробити це так само легко.

Експерти з кібербезпеки зауважують: ситуація демонструє системну проблему галузі. Навіть провідні ШІ-розробники залишаються беззахисними через використання стандартного стороннього софту, який об'єднує корпоративні мережі.

Зазначається, що Cathedral, який інвестори оцінюють у 1,4 мільярда доларів, наразі тісно співпрацює з урядом США та отримує контракти від кількох федеральних агентств.

Не пропустіть: Небезпечна помилка Anthropic: Claude Mythos 5 зламав капчу й атакував інтернет

Конфлікти, розслідування та заходи безпеки

Випадок стався на тлі тривалого напруження між Anthropic та Пентагоном, який раніше обмежував використання продуктів компанії у військових цілях через її відмову розробляти автономну зброю.

Крім того, колишні співробітники Anthropic уже висловлювали занепокоєння щодо недбалого ставлення до безпеки.

Зокрема, у вересні один із розробників публічно звільнився, заявивши, що компанія робить невиправдані ризики, спираючись на звичайні корпоративні месенджери на кшталт Slack для обговорення критичних розробок.

Представники Anthropic запевняють, що їхні системи моніторингу зафіксували частину дій Cathedral ще до подачі офіційного звіту, і доступ було заблоковано того ж дня.

Проблемне стороннє ПЗ тимчасово вимкнули й повернули до роботи лише після того, як розробники цих сервісів підтвердили повне усунення виявлених вразливостей.