Фейкова ядерна зброя: штучний інтелект ледь не спровокував конфлікт США з Китаєм

Як помилка ШІ ледь не спричинила силовий штурм?

Військова розвідка США підготувала секретну аналітичну довідку, за якою китайське судно у регіоні Близького Сходу нібито транспортувало деталі для створення ядерної зброї.

Пентагон негайно розробив операцію із затримання: у повітря підняли бойову авіацію, а перехоплювачі готувалися до висадки на борт.

Місію скасували в останній момент, коли посадовці вирішили повторно перевірити першоджерела. Додаткова перевірка показала, що інформація про ядерний вантаж була повністю вигадана ШІ-алгоритмами.

За словами джерел у військово-морських силах, силове захоплення корабля могло спровокувати пряме військове зіткнення між ядерними державами.

Чому чат-боти роблять критичні помилки у розвідці?

Причиною інциденту стало широке впровадження ШІ-інструментів на всіх рівнях аналітики без належної системи верифікації.

Так, стало відомо, що один із співробітників використав чат-бот для об'єднання відкритих даних із секретними радіоелектронними перехопленнями. Алгоритм згенерував фейковий висновок, який видав за реальний факт.

Експерти виділяють кілька системних проблем у використанні ШІ військовими:

Децентралізація інструментів - різні підрозділи використовують відмінні програми без єдиного стандарту перевірки даних.

Використання комерційних рішень - розвідувальні структури часто застосовують адаптовані версії звичайних цивільних чат-ботів.

Постійні галюцинації - випадок із китайським судном виявився лише одним із серії неправдивих висновків, які ШІ видає під час аналізу масивів інформації.

Фахівці наголошують: через зростання обсягів даних армія дедалі більше покладається на ШІ-алгоритми для визначення цілей, проте відсутність жорсткого контролю створює ризик катастрофічних помилок у майбутньому.