Хуже "ядерки"? Опасность ИИ омрачила мировой оборонный форум
Использование искусственного интеллекта в военной сфере стремительно сокращает время реакции. Это создает колоссальный риск принятия людьми иррациональных и крайних решений.
Об этом сообщает РБК-Украина со ссылкой на Bloomberg.
Сокращение времени на решение и "туман" ИИ
По информации агентства, во время Сингапурского оборонного форума "Шангри-Ла Диалог" опасность искусственного интеллекта затмила традиционные обсуждения ядерного оружия.
Эксперты подчеркнули, что ИИ стремительно сворачивает так называемую "петлю OODA" (аббревиатура от "наблюдать, ориентироваться, решать и действовать").
По словам командира 1-го корпуса и Командования ракетных войск армии Пакистана генерал-лейтенанта Наумана Закрии, это создает специфический "туман", в котором человек физически не способен оценить ситуацию достаточно быстро.
"Люди будут действовать иррационально, а их действия будут крайними", - предупредил генерал-лейтенант.
Эти опасения поддержала и президент Международного комитета Красного Креста Мирьяна Сполярич. Она подчеркнула, что хотя технологии имеют потенциал для защиты гражданских, пока мир видит преимущественно негативную сторону военного ИИ.
"Мы не знаем, где нажимают на курок. Это может быть за тысячи километров", - добавила Сполярич.
ИИ уже воюет в Украине и мире
Несмотря на то, что классическое стратегическое сдерживание (в частности ядерная политика Китая относительно неиспользования оружия первым) остается важным, ИИ уже стал реальностью современных войн.
Как отметил начальник оборонного ведомства Нидерландов генерал Онно Айхельсхайм, технология активно применяется на поле боя.
В частности, украинские военные используют ИИ для предсказания российских атак. В свою очередь США применяли алгоритмы для планирования ударов по проиранским целям.
"Искусственный интеллект - это огромный риск эскалации. Я думаю, это понятно. Но я не наивен. Он будет использоваться в этой области. Он уже используется", - констатировал Айхельсхайм.
Технологическая угроза будущего
Напомним, недавно ведущие разработчики искусственного интеллекта заговорили о новой опасной технологии - RSI (рекурсивное самосовершенствование). Ведущие лаборатории мира пытаются создать алгоритм, который сможет самосовершенствоваться без вмешательства человека.
Как отмечают эксперты, ИИ уже начал обучать себя сам, что несет серьезные угрозы для безопасности и стабильности человечества, поскольку процесс может стать полностью замкнутым и неконтролируемым.
В то же время руководители крупнейших технокорпораций в последнее время кардинально изменили свои прогнозы относительно будущего. В частности, топы OpenAI и Anthropic резко изменили риторику относительно ИИ и заверили, что "апокалипсиса не будет".
Руководители компаний признали, что массовой безработицы, которой ранее пугали общество, не произошло, а их прошлые скептические заявления были лишь попыткой привлечь внимание.