ШІ – інструмент сучасної дипломатії: від національного центру боротьби з фейками до "етичного квантового дзеркала"

Про те, чому штучний інтелект має стати "щитом" від дезінформації, та про інші інноваційні ідеї майбутніх дипломатів щодо застосування технологій ШІ, – в колонці Вадима Попка, професора Навчально-наукового Інституту міжнародних відносин КНУ ім. Т.Г. Шевченка.

У світі, де інформаційна війна стає одним із головних фронтів, штучний інтелект (ШІ) швидко перетворюється на потужний інструмент дипломатії. Навколо цього явища точиться величезна кількість дискусій і усі визнають – ШІ – це не лише про технології, а про синергію людського розуму та алгоритмів, як одного з елементів захисту національних інтересів.

5 грудня у Навчально-науковому інституті міжнародних відносин КНУ імені Тараса Шевченка відбувся фінал ІІ Всеукраїнського конкурсу студентських есе на тему "Сучасна українська дипломатія: синергія людського та штучного інтелекту на захисті національних інтересів". Отже, сьогодні про те, яку роль відводять ШІ майбутні українські дипломати.

Студентам було запропоновано 8 тем, але більшість з учасників конкурсу, а їх було понад 250 з 46 українських закладів вищої освіти, сконцентрувалися на протидії дезінформації, ШІ – як цифровому помічнику з узагальнення інформації, її обробки та етичних аспектах використання.

Протидія дезінформації та медіаграмотність

Студент Національного юридичного університету імені Ярослава Мудрого Василь Василенко, посилаючись на NewsGuard, зазначає наступне: "В епоху штучного інтелекту та глобальної війни за демократичні цінності питання протидії дезінформації актуальне як ніколи. Наприклад, лише у 2024 році аналітики компанії NewsGuard виявили 167 новинних сайтів з російськими зв’язками, які публікують неправдиві заяви про війну в Україні та переважно використовують штучний інтелект для створення контенту". Він робить висновок, що інформаційна ШІ-війна сьогодні – це "не просто теоретичні дискусії, а боротьба за голоси у світі та питання національного виживання.

Питання великої кількості фейків та актуальність медійної грамотності споживачів інформації вважають одним з ключових і інші студенти. Якщо узагальнити, то вони одностайно вважають, що ШІ – не лише меч, що допомагає генерувати фейки, а й має виступати щитом від дезінформації. Тому майбутніх дипломатів необхідно готувати до нових інформаційних реалій – розвивати критичне мислення, навчати роботі з великими базами даних, метаданих, базовими інструментаріями ШІ-аналізу.

Крім цього, на офіційному рівні пропонується активна комунікація та оперативне спростування фейків, використовуючи системи автоматичної генерації матеріалів – від постів у соцмережах і роз’яснень до повноцінних статей для вітчизняних та міжнародних медіа.

Василь Василенко переконує, що на практиці це може бути реалізовано як алгоритми комп’ютерного зору, що аналізують аудіо‑ та відеофайли, виявляючи ознаки монтажу або штучної генерації, після чого оперативно готується публічне спростування та роз’яснення.

Цікаву пропозицію надала студентка 2 курсу Навчально-наукового інституту міжнародних відносин Ольга Сурник. Вона пропонує створити "міжуніверситетську мережу аналітичних лабораторій "CheckUA" на базі закладів вищої освіти, де студенти й викладачі працювали б із фактчекінгом, OSINT-дослідженнями та медіааналізом у зв’язці з Центром стратегічних комунікацій".

Ще одна її пропозиція полягає в тому, аби утворити при Офісі Президента України Національний аналітичний центр стратегічних комунікацій за зразком британського GCHQ (The Government Communications Headquarters), який збирає та надає розвідувальні дані, захищає інформацію і формує політику Великої Британії, аби забезпечити безпеку суспільства в епоху Інтернету.

Вона бачить цей центр як штаб, що об’єднає аналітиків, ІТ-фахівців, дипломатів і психологів, щоб вчасно виявляти нові дезінформаційні тренди, розробляти сценарії-відповіді, формулювати контрнаративи і готувати рекомендації для МЗС, посольств, органів влади.

Отже, майбутні дипломати впевнені, що Україна повинна перейти від ситуативної до інституційної технологічної моделі протидії дезінформації. А для цього нам потрібні зміни в освітніх програмах, якісно нові аналітичні центри, використання усього потенціалу ШІ та розвиток стратегічних комунікацій. В умовах гібридної війни це є не просто важливим, а критично необхідним для зміцнення національної безпеки.

Цифрові інструменти та трансформація

Студентка 4 курсу ННІМВ КНУ імені Тараса Шевченка Анна Крижанівська відмітила ініціативу МЗС зі створення згенерованої ШІ цифрової особи – "Вікторія ШІ", у функції якої входить коментування консульської інформації. Це, зазначає вона, дозволило "економити час та ресурси МЗС, забезпечуючи можливість реальним дипломатам зосередитися на складніших завданнях".

Водночас, вона вказує на факт відсутності "прямого законодавчого документа", що регулює питання застосування інструментів цифрової дипломатії.

"Впровадження ШІ в дипломатичну практику вимагає створення правової бази для управління ШІ, що включає розробку етичних та правових стандартів. Цифрова дипломатія, як сфера діяльності, вимагає уваги до кібербезпеки та протидії хакерським атакам", – зазначає вона.

Студентка відмітила, що Україна має розвинений IT-сектор і це, на її думку, має дати нам реальну можливість стати №1 у світі з AI-diplomacy, втім нам заважає "фрагментована" комунікація та відсутність системного масштабування.

Що ж стосується можливостей, Крижанівська вбачає їх у запуску Data Embassy – незалежного суверенного центру обробки даних, розташованому в іншій країні, який зберігає критично важливу цифрову інформацію держави. Так свого часу зробила Естонія, аби забезпечити безперебійну роботу уряду та критично важливих підприємств під час кібератак та можливих військових конфліктів.

Data Embassy розташовується у Люксембурзі й має найвищий рівень безпеки для об’єктів обробки даних. "Це не посольство в традиційному дипломатичному розумінні, і, хоча установча угода враховує Віденську конвенцію про дипломатичні зносини, це щось абсолютно нове згідно з міжнародним правом. Воно повністю перебуває під контролем Естонії, але має ті ж права, що й фізичні посольства, зокрема, імунітет", – зазначено на сторінці установи.

Справді, українська дипломатія має трансформуватися – застосовуючи традиційні методи, ми повинні перейти до моделі, де ШІ стає невід’ємною частиною інституційної архітектури наших міжнародних відносин.

Етичні аспекти використання штучного інтелекту

Дебати навколо етичного компоненту використання технологій ШІ актуалізуються кожного дня. Поширення алгоритмів штучного інтелекту буквально в кожні галузі – від освіти до державного управління - вимагає відповіді на питання: як забезпечити етичне та відповідальне використання ШІ та запобігти його потенційному шкідливому впливу?

В центрі дискусій – проблема прозорості. Суспільство має розуміти, як вибудовуються алгоритми, як вони працюють, за якими принципами приймають рішення і, врешті-решт, хто несе відповідальність за можливі помилки.

Інше ключове питання – упередженість алгоритмів. Якщо дані, на яких навчається ШІ, спотворені та містять певні стереотипи або дискримінаційні патерни, а алгоритм їх відтворює, то це може призвести до величезних проблем. Тому вже давно цивілізовані країни розгорнули дискусії щодо запровадження етичних стандартів ШІ та процедур незалежного контролю. В цьому контексті головний виклик – як знайти баланс між інноваціями та відповідальністю, забезпечити ефективну та етичну роботу технологій ШІ в інтересах суспільства.

Увагу етичній частині в технологіях ШІ приділила переможниця конкурсу – студентка 4 курсу ННІМВ КНУ імені Тараса Шевченка Катерина Машошина.

"З власного досвіду використання штучного інтелекту вважаю за доцільне зазначити, що для більшості високопродуктивних систем штучного інтелекту відсутні доведені математичні розрахунки, що гарантують межу помилки. Саме тому штучний інтелект часто називають "чорною скринькою" через непрозорість свого внутрішнього механізму", – вважає студентка.

Коли ми не знаємо як створена система, як вона працює і на основі яких даних вона ухвалює рішення, ми вже її не контролюємо і фактично передаємо своє майбутнє новому типу суверена – байдужій, позбавленій емпатії та людського досвіду системі.

З метою етичного використання технології ШІ в дипломатії і не тільки, Машошина пропонує сконцентруватися на створенні "етичного квантового дзеркала".

"Суть полягає в тому, щоб створити механізм, який забезпечує абсолютну, незмінну прозорість штучного інтелекту. Будь-яка система штучного інтелекту, що використовується для аналізу суверенного боргу або міжнародних переговорів, має бути подвоєна у спеціальному "квантовому дзеркалі". Умовно, "дзеркало" фіксує і пояснює кожну лінію коду та кожну фракцію, що призвела до кінцевої рекомендації (навіть якщо це мільярди змінних). Будь-яка спроба маніпуляції чи упередженості негайно створює когнітивний дисонанс у "дзеркалі", який автоматично призупиняє виконання фінансового рішення до моменту підтвердження його людським дипломатичним консиліумом", – зазначає вона.

На мою думку, така пропозиція може розглядатися як потенційний крок до реальної системи контролю за "чорними скриньками" алгоритмів ШІ. Фіксація кожної змінної, лінії коду та рішення дійсно здатне виступити запобіжником упередженостей і маніпуляцій і, під час виникнення "когнітивного дисонансу" це спрацює як "червоний прапорець" задля подальшого негайного втручання людини. Таким чином, людський інтелект залишається на першому місці.

Сьогодні, коли провідні держави світу конкурують за лідерство в галузі ШІ, Україна, розробляючи нові стандарти, могла б стати його "етичним лідером".

Замість висновків:

Підсумовуючи, можу впевнено стверджувати, що конкурси студентських есе на тему штучного інтелекту стали справжнім каталізатором ідей для майбутньої української дипломатії. Я пишаюся нашими студентами, адже їх думки – це не просто теорія, це реальні ефективні інструменти, більшість з яких можна запроваджувати вже сьогодні.

Фактично, ці есе можуть стати допоміжною дорожньою картою для Офісу Президента України, Міністерства закордонних справ та закладів вищої освіти на шляху до створення сучасної етичної AI-дипломатії, до інституціоналізації цифрових інструментів та формування нового покоління українських дипломатів, які розуміють алгоритми штучного інтелекту, але ніколи не втратять свого людського обличчя і будуть стояти на сторожі національних інтересів.

Ще раз хочу підкреслити – наша молодь уже сьогодні творить сучасну українську дипломатію.