Фейковое ядерное оружие: искусственный интеллект едва не спровоцировал конфликт США с Китаем

Как ошибка ИИ чуть не повлекла за собой силовой штурм?

Военная разведка США подготовила секретную аналитическую справку, согласно которой китайское судно в регионе Ближнего Востока якобы транспортировало детали для создания ядерного оружия.

Пентагон немедленно разработал операцию по задержанию: в воздух подняли боевую авиацию, а перехватчики готовились к высадке на борт.

Миссию отменили в момент, когда чиновники решили повторно проверить первоисточники. Дополнительная проверка показала, что информация о ядерном грузе была полностью придумана ИИ-алгоритмами.

По словам источников в военно-морских силах, силовой захват корабля мог спровоцировать прямое военное столкновение между ядерными державами.

Почему чат-боты совершают критические ошибки в разведке?

Причиной инцидента стало широкое внедрение ИИ-инструментов на всех уровнях аналитики без надлежащей верификации.

Так стало известно, что один из сотрудников использовал чат-бот для объединения открытых данных с секретными радиоэлектронными перехватами. Алгоритм сгенерировал фейковый вывод, выдавший за реальный факт .

Эксперты выделяют несколько системных проблем в использовании ИИ военными:

Децентрализация инструментов - различные подразделения используют отличные программы без единого стандарта проверки данных.

Использование коммерческих решений - разведывательные структуры часто применяют адаптированные версии обычных гражданских чат-ботов.

Постоянные галлюцинации - случай с китайским судном оказался лишь одним из серии ложных выводов, которые ИИ издает при анализе массивов информации.

Специалисты отмечают: из-за роста объемов данных армия все больше полагается на ИИ-алгоритмы для определения целей, однако отсутствие жесткого контроля создает риск катастрофических ошибок в будущем.