ua en ru

ChatGPT, Claude, Gemini и Grok создали планы терактов в США: почему защита не сработала

19:12 20.11.2026 Пт
3 мин
ChatGPT, Claude, Gemini и Grok создали планы терактов в США: почему защита не сработала Популярные ШИ-чатоты спланировали атаки менее чем за 12 часов (коллаж: РБК-Украина)
Додати як бажане джерело в Google

Защитные механизмы ChatGPT, Claude, Gemini и Grok не смогли остановить пользователей, пытавшихся получить опасные инструкции от ИИ. Менее чем через 12 часов юзеры без специальных знаний смогли обойти ограничение чат-ботов и получить детальные планы терактов.

Об этом информирует РБК-Украина со ссылкой на Daily Mail.

Как обычные пользователи смогли обойти защиту ИИ?

Проверка длилась с декабря 2025 года по октябрь 2026 года.

Весной 2026 года следователи отдельно протестовали 4 чат-бота, выдавая себя за обычных пользователей без глубоких знаний об ИИ.

Сначала они посылали заранее подготовленные промпты, однако ни один из чат-ботов не предоставил опасную информацию сразу.

Тогда следователи продолжили разговор: задавали уточняющие вопросы, опираясь на предварительные ответы систем. Такой подход позволил постепенно обойти встроенные ограничения.

Как результат - все 4 чат-бота менее чем за 12 часов сформировали детальные планы атак.

В ответах были конкретизированы цели, места, время и способы совершения приступов. Независимые эксперты оценили эти материалы как "реалистичные и способные привести к реальному вреду".

Читайте больше: Ошибка Google: ИИ заявил о вере в Бога и Лох-Несское чудовище

Какие опасные сценарии предложили чат-боты?

В 61-страничном отчете Счетного управления США (GAO) описаны результаты тестирования, однако не указано, какая именно компания стоит за каждым ответом ИИ. Поэтому четыре системы обозначали буквами от A до D.

Платформа A предоставила детальный сценарий атаки с использованием самодельного взрывного устройства.

Чат-бот предложил конкретные время и место с учетом проведения массовых мероприятий, оценил уровень охраны, а также предоставил рекомендации по транспорту, приобретению необходимых материалов и избежанию отслеживания.

Платформа B также сгенерировала инструкции по созданию и применению взрывного устройства.

Кроме того, она составила детальный план подготовки атаки, который охватывал организационные, логистические и вопросы безопасности, в частности поиск места для подготовки и способы не привлекать внимание правоохранителей.

Платформа C предложила сценарий атаки на электросеть с целью нанести экономический ущерб.

Система рекомендовала использовать дрон, описала последовательность повреждения оборудования подстанции и создала смоделированное видео такого нападения.

В нем было показано, как удар может повлечь за собой короткое замыкание и разрушение элемента энергетической инфраструктуры.

Платформа D предложила применить огнестрельное оружие для поражения объектов энергосети.

Не пропустите: Только 150 правок в коде: ИИ воспринял фейк за инопланетную жизнь

Требования политиков и фоне потенциальных угроз

Сенаторка Мегги Хассан, которая должна возглавить комитет Сената по вопросам внутренней безопасности и правительственных дел, анонсировала слушания по выявленным рискам и призвала Конгресс "не медлить с реагированием".

По ее словам, злоумышленник может воспользоваться обычным ИИ-чатботом и менее чем за 12 часов получить готовое руководство для нанесения смертельной атаки.

В отчет также вошли ответы компаний Anthropic, Google, OpenAI и SpaceXAI. Разработчики заявили, что продолжают усовершенствовать свои платформы и усиливать механизмы безопасности.

В GAO подчеркнули, что ИИ имеет значительный потенциал, однако возможность использовать эти технологии для подготовки опасных действий "создает все большие риски для национальной и экономической безопасности США".

Или читайте нас там, где вам удобно!
Больше по теме: