Лише 150 правок у коді: ШІ сприйняв фейк за інопланетне життя
ШІ може впевнено знаходити інопланетне життя там, де його немає - алгоритми видають помилкові результати під час пошуку біосигнатур.
Про це інформує РБК-Україна, посилаючись на дослідження, опубліковане на сервері препринтів arXiv.
Як науковці обдурили штучний інтелект?
У пошуках позаземного життя астробіологи спираються на пошук універсальних індикаторів - зокрема, здатності систем кодувати інформацію та самовідтворюватися, як ДНК.
Щоб перевірити здатність ШІ розпізнавати ці процеси, дослідники використали програму Avida, яка генерує "цифрове життя" у вигляді програмного коду, що здатний еволюціонувати та копіювати себе у віртуальному середовищі.
Навчивши нейромережу на десятках тисяч цифрових організмів, науковці досягли вражаючої початкової точності розпізнавання у 99,97 відсотках.
А проте подальший тест виявив серйозну проблему: змінюючи лише окремі команди в коді нездатного до розмноження організму, вченим вдалося повністю збити ШІ з пантелику.
"Незалежно від того, з якої послідовності команд ми починали, нам вдавалося обдурити ШІ у 100 відсотках випадків", - зазначив аспірант кафедри комп'ютерних наук та інженерії MSU Анкіт Гупта.
Для того, щоб алгоритм помилково визнав неживий об'єкт здатним до самовідтворення, знадобилося лише близько 150 дрібних правок у коді.
Кількість подібних комбінацій у реальному світі є величезною, тому ймовірність натрапити на хибну біосигнатуру залишається вкрай високою.
"Штучний інтелект має "ахіллесову п'яту". Він може побачити патерн і абсолютно неправильно його класифікувати", - пояснив професор мікробіології, молекулярної генетики, фізики та астрономії Крістоф Адамі.
Пряма загроза для космічних місій та земних технологій
Виявлена вразливість створює ризики для майбутніх досліджень NASA та інших космічних агентств, які планують використовувати ШІ-сенсори на марсоходах і зондах біля супутників Юпітера та Сатурна.
Якщо автономний апарат на Марсі зробить хибний висновок про виявлення життя, перевірити ці дані до повернення зразків на Землю буде неможливо.
Окрім астробіології, слабкість розпізнавання патернів загрожує й іншим сферам, де ШІ впроваджується без належного контролю - від медичних сканерів і камер спостереження до автопілотів у машинах.
"Це не означає, що використовувати такі методи в астробіології, медичній діагностиці чи на полі бою марно. Вам потрібен незалежний спосіб перевірки роботи ШІ. У ланцюгу ухвалення рішень обов'язково має залишатися людина", - підсумував Адамі.