Пошук життя у космосі під загрозою: вчені знайшли слабке місце ШІ
Науковці з Університету штату Мічиган виявили, що ШІ схильний помилково класифікувати неживі об'єкти як живі організми. Вчені попереджають, що це створює серйозні ризики для майбутніх космічних місій з пошуку позаземного життя.
Про це пише РБК-Україна з посиланням на Space.
"Ахіллесова п'ята" ШІ
Головна проблема сучасних моделей нейромереж, вважають науковці, полягає у роботі з так званими "позарозподільними" зразками - об'єктами, які відрізняються від даних, використаних під час навчання алгоритму.
За словами обчислювального біолога Крістофа Адамі, ШІ надзвичайно легко ввести в оману. Дослідник визначає життя через його здатність кодувати і відтворювати інформацію.
"Оскільки біологія на інших планетах може кардинально відрізнятися від земної, космічні апарати покладатимуться саме на такі універсальні маркери", - пояснює дослідник.
Експеримент із цифровим життям
Для перевірки надійності ШІ науковці Крістоф Адамі та Анкіт Гупта провели тестування за допомогою комп'ютерної програми Avida.
Платформа моделює цифрові організми у вигляді програмного коду, здатного мутувати, самовідтворюватися та змагатися за процесорний час.
Тестування тривало 3 місяці з використанням 1000 паралельних комп'ютерів:
- ШІ мав відрізнити цифрові організми з властивостями життя від неживого коду.
- Спочатку алгоритму дали послідовності, що імітують випадковий набір молекул.
- Вчені поступово змінювали структуру коду, спостерігаючи за "впевненістю" нейромережі.
У результаті точкових коригувань науковцям вдалося повністю обдурити штучний інтелект, змусивши його визнати неживу програму повноцінним живим організмом.
Чому це загрожує майбутнім космічним місіям?
Виявлена вразливість свідчить про те, що роботи та марсоходи, оснащені ШІ, можуть видати хибнопозитивні результати.
Помилкова ідентифікація біомаркерів на інших планетах загрожує марною витратою ресурсів і часу на дослідження об'єктів, які насправді не мають жодного стосунку до позаземного життя.