США едва не спровоцировали войну с Китаем из-за созданного ИИ отчета, - CNN

ИИ провоцировал конфликт между США и Китаем

По словам четырех источников, знакомых с этим инцидентом, американские военные начали действовать по указанию ИИ, планируя перехватить судно.

Как говорят два источника, вооруженные военные США готовились подняться на борт корабля. Военные самолеты находились в воздухе, сообщил один из этих источников и другой источник, знакомый с инцидентом.

Только непосредственно перед запланированной операцией чиновники глубже изучили отчет. Было обнаружено, что аналитик командования специальных операций создал его с помощью искусственного интеллекта. А его чат-бот неточно идентифицировал материал, перевозивший корабль.

CNN не удалось выяснить, что за груз был ошибочно идентифицирован.

По словам одного из источников, сообщение было "полностью ложным". Но оно также "чуть не начало войну", сказал источник.

Любая операция США против китайского судна могла бы привести к перерастанию в вооруженный конфликт между двумя странами.

Использование ИИ армией США

В военных силах США и разведывательном сообществе чиновники настаивают на том, чтобы интегрировать ИИ почти в каждый аспект своей работы:

• анализ огромных объемов необработанных разведывательных данных,
• выбор целей для ударов,
• управление бюджетированием, логистикой и цепями поставок.

Но этот эпизод подчеркивает серьезные опасности. Аналитик обратился к чат-боту с вопросом о некоторых разведывательных отчетах по манифесту судна.

Бот объединил разведывательные данные из открытых источников с секретными радиоэлектронными данными, хранящимися в правительственных фондах. Таким образом он пришел к своему судьбоносному выводу о материале, который перевозил корабль.

Затем аналитик снова использовал ИИ, чтобы упаковать выводы в стандартный разведывательный отчет и распространить его.

По словам одного из источников, это не является единичным случаем в разведывательном сообществе с момента начала распространения этих инструментов в правительстве.