О том, почему искусственный интеллект должен стать "щитом" от дезинформации, и о других инновационных идеях будущих дипломатов по применению технологий ИИ, – в колонке Вадима Попко, профессора Учебно-научного Института международных отношений КНУ им. Т. Г. Шевченко.
В мире, где информационная война становится одним из главных фронтов, искусственный интеллект (ИИ) быстро превращается в мощный инструмент дипломатии. Вокруг этого явления идет огромное количество дискуссий и все признают – ИИ – это не только о технологиях, а о синергии человеческого разума и алгоритмов, как одного из элементов защиты национальных интересов.
5 декабря в Учебно-научном институте международных отношений КНУ имени Тараса Шевченко состоялся финал ІІ Всеукраинского конкурса студенческих эссе на тему "Современная украинская дипломатия: синергия человеческого и искусственного интеллекта в защите национальных интересов". Итак сегодня о том, какую роль отводят ИИ будущие украинские дипломаты.
Студентам было предложено 8 тем, но большинство участников конкурса, а их было более 250 из 46 украинских учреждений высшего образования, сконцентрировались на противодействии дезинформации, ИИ – как цифровому помощнику по обобщению информации, ее обработке и этическим аспектам использования.
Студент Национального юридического университета имени Ярослава Мудрого Василий Василенко, ссылаясь на NewsGuard, отмечает следующее: "В эпоху искусственного интеллекта и глобальной войны за демократические ценности вопрос противодействия дезинформации актуален как никогда. Например, только в 2024 году аналитики компании NewsGuard обнаружили 167 новостных сайтов с российскими связями, которые публикуют ложные заявления о войне в Украине и преимущественно используют искусственный интеллект для создания контента". Он делает вывод, что информационная ИИ-война сегодня – это "не просто теоретические дискуссии, а борьба за голоса в мире и вопросы национального выживания.
Вопрос большого количества фейков и актуальность медийной грамотности потребителей информации считают одним из ключевых и другие студенты. Если обобщить, они единодушно считают, что ИИ – не только меч, помогающий генерировать фейки, но и должен выступать щитом от дезинформации. Поэтому будущих дипломатов необходимо готовить к новым информационным реалиям – развивать критическое мышление, обучать работе с большими базами данных, метаданными, базовыми инструментариями ИИ-анализа.
Кроме того, на официальном уровне предлагается активная коммуникация и оперативное опровержение фейков, используя системы автоматической генерации материалов – от постов в соцсетях и разъяснений до полноценных статей для отечественных и международных медиа.
Василий Василенко убеждает, что на практике это может быть реализовано как алгоритмы компьютерного зрения, которые анализируют аудио- и видеофайлы, выявляя признаки монтажа или искусственной генерации, после чего оперативно готовится публичное опровержение и разъяснение.
Интересное предложение предоставила студентка 2 курса Учебно-научного института международных отношений Ольга Сурник. Она предлагает создать "межуниверситетскую сеть аналитических лабораторий "CheckUA" на базе заведений высшего образования, где бы студенты и преподаватели работали с фактчекингом, OSINT-исследованиями и медиаанализом в связке с Центром стратегических коммуникаций".
Еще одно ее предложение состоит в том, чтобы создать при Офисе Президента Украины Национальный аналитический центр стратегических коммуникаций по образцу британского GCHQ (The Government Communications Headquarters), который собирает и предоставляет разведывательные данные, защищает информацию и формирует политику Великобритании, чтобы обеспечить безопасность общества в эпоху Интернета.
Она видит этот центр как штаб, который объединит аналитиков, I Т-специалистов, дипломатов и психологов, чтобы вовремя выявлять новые дезинформационные тренды, разрабатывать ответные сценарии, формулировать контрнарративы и готовить рекомендации для МИД, посольств, органов власти.
Следовательно, будущие дипломаты уверены, что Украина должна перейти от ситуативной к институциональной технологической модели противодействия дезинформации. Для этого нам нужны изменения в образовательных программах, качественно новые аналитические центры, использование всего потенциала ИИ и развитие стратегических коммуникаций. В условиях гибридной войны это не просто важно, а критически необходимо для укрепления национальной безопасности.
Студентка 4 курса УНИМО КНУ имени Тараса Шевченко Анна Крыжановская отметила инициативу МИД по созданию сгенерированного ИИ цифрового лица – "Виктория ИИ", в функции которого входит комментирование консульской информации. Это, отмечает она, позволило "экономить время и ресурсы МИДа, обеспечивая возможность реальным дипломатам сосредоточиться на более сложных задачах".
В то же время, она указывает на факт отсутствия "прямого законодательного документа", регулирующего вопросы применения инструментов цифровой дипломатии.
"Внедрение ИИ в дипломатическую практику требует создания правовой базы для управления ИИ, что включает разработку этических и правовых стандартов. Цифровая дипломатия как сфера деятельности требует внимания к кибербезопасности и противодействию хакерским атакам", – отмечает она.
Студентка отметила, что у Украины есть развитый IT-сектор и это, по ее мнению, должно дать нам реальную возможность стать №1 в мире с AI-diplomacy, впрочем, нам мешает "фрагментированная" коммуникация и отсутствие системного масштабирования.
Что же касается возможностей, Крыжановская видит их в запуске Data Embassy – независимого суверенного центра обработки данных, расположенном в другой стране, который хранит критически важную цифровую информацию государства. Так в свое время сделала Эстония, чтобы обеспечить бесперебойную работу правительства и критически важных предприятий во время кибератак и возможных военных конфликтов.
Data Embassy располагается в Люксембурге и имеет самый высокий уровень безопасности для объектов обработки данных. "Это не посольство в традиционном дипломатическом понимании, и, хотя учредительное соглашение учитывает Венскую конвенцию о дипломатических сношениях, это нечто совершенно новое в соответствии с международным правом. Оно полностью находится под контролем Эстонии, но имеет те же права, что и физические посольства, в частности, иммунитет", - отмечено на странице учреждения.
Действительно, украинская дипломатия должна трансформироваться – применяя традиционные методы мы должны перейти к модели, где ИИ становится неотъемлемой частью институциональной архитектуры наших международных отношений.
Дебаты вокруг нравственного компонента использования технологий ИИ актуализируются каждый день. Распространение алгоритмов искусственного интеллекта буквально в каждые отрасли – от образования до государственного управления – требует ответа на вопрос: как обеспечить нравственное и ответственное использование ИИ и предотвратить его потенциальное вредное влияние?
В центре дискуссий – проблема прозрачности. Общество должно понимать, как выстраиваются алгоритмы, как они работают, по каким принципам принимаются решения и, в конце концов, кто несет ответственность за возможные ошибки.
Другой ключевой вопрос – предвзятость алгоритмов. Если данные, на которых учится ИИ, искажены и содержат определенные стереотипы или дискриминационные паттерны, а алгоритм их воспроизводит, это может привести к огромным проблемам. Поэтому уже давно цивилизованные страны развернули дискуссии о внедрении этических стандартов ИИ и процедур независимого контроля. В этом контексте главный вызов – как найти баланс между инновациями и ответственностью, обеспечить эффективную и нравственную работу технологий ИИ в интересах общества.
Внимание нравственной части в технологиях ИИ уделила победительница конкурса – студентка 4 курса УНИМО КНУ имени Тараса Шевченко Екатерина Машошина.
"Из собственного опыта использования искусственного интеллекта считаю целесообразным отметить, что для большинства высокопроизводительных систем искусственного интеллекта отсутствуют доказанные математические расчеты, гарантирующие предел ошибки. Именно поэтому искусственный интеллект часто называют "черным ящиком" из-за непрозрачности своего внутреннего механизма", – считает студентка.
Когда мы не знаем как создана система, как она работает и на основе каких данных она принимает решения, мы уже ее не контролируем и фактически передаем свое будущее новому типу суверена – безразличной, лишенной эмпатии и человеческого опыта системе.
В целях этического использования технологии ИИ в дипломатии и не только, Машошина предлагает сконцентрироваться на создании "этического квантового зеркала".
"Суть состоит в том, чтобы создать механизм, обеспечивающий абсолютную, неизменную прозрачность искусственного интеллекта. Любая система искусственного интеллекта, используемая для анализа суверенного долга или международных переговоров, должна быть удвоена в специальном "квантовом зеркале". Условно, "зеркало" фиксирует и поясняет каждую рекомендации (даже если это миллиарды переменных). Любая попытка манипуляции или предвзятости немедленно создает когнитивный диссонанс в "зеркале", который автоматически приостанавливает выполнение финансового решения до момента подтверждения его человеческим дипломатическим консилиумом", – отмечает она.
На мой взгляд, такое предложение может рассматриваться как потенциальный шаг к реальной системе контроля за "черными ящиками" алгоритмов ИИ. Фиксация каждой переменной, линии кода и решения действительно способна выступить предохранителем предвзятостей и манипуляций и при возникновении "когнитивного диссонанса" это сработает как "красный флажок" для дальнейшего немедленного вмешательства человека. Таким образом, человеческий интеллект остается на первом месте.
Сегодня, когда ведущие государства мира конкурируют за лидерство в области ИИ, Украина, разрабатывая новые стандарты, могла бы стать его "этическим лидером".
Подводя итог, могу уверенно утверждать, что конкурсы студенческих эссе на тему искусственного интеллекта стали настоящим катализатором идей для будущей украинской дипломатии. Я горжусь нашими студентами, ведь их мнения – это не просто теория, это реальные эффективные инструменты, большинство из которых можно внедрять уже сегодня.
Фактически эти эссе могут стать вспомогательной дорожной картой для Офиса Президента Украины, Министерства иностранных дел и учреждений высшего образования на пути к созданию современной нравственной AI-дипломатии, к институционализации цифровых инструментов и формированию нового поколения украинских дипломатов, которые понимают алгоритмы искусственного интеллекта, но никогда не потеряют своего человеческого лица и будут стоять на страже национальных интересов.
Еще раз хочу подчеркнуть – наша молодежь уже сегодня создает современную украинскую дипломатию.