Только 150 правок в коде: ИИ воспринял фейк за инопланетную жизнь
ИИ может уверенно находить инопланетную жизнь там, где ее нет - алгоритмы выдают ложные результаты при поиске биосигнатур.
Об этом информирует РБК-Украина, ссылаясь на исследование, опубликованное на сервере препринтов arXiv.
Как ученые обманули искусственный интеллект?
В поисках внеземной жизни астробиологи опираются на поиск универсальных индикаторов - в частности, способности систем кодировать информацию и самовоспроизводиться, как ДНК.
Чтобы проверить способность ИИ распознавать эти процессы, исследователи использовали программу Avida , которая генерирует "цифровую жизнь" в виде программного кода, способного эволюционировать и копировать себя в виртуальной среде.
Обучив нейросеть на десятках тысяч цифровых организмов, ученые достигли поразительной начальной точности распознавания в 99,97 процента.
Однако дальнейший тест обнаружил серьезную проблему: меняя лишь отдельные команды в коде неспособного к размножению организма, ученым удалось полностью сбить ИИ с толку.
"Независимо от того, с какой последовательности команд мы начинали, нам удавалось обмануть ИИ в 100 процентах случаев", - отметил аспирант кафедры компьютерных наук и инженерии MSU Анкит Гупта.
Для того чтобы алгоритм ошибочно признал неодушевленный объект способным к самовоспроизведению, понадобилось лишь около 150 мелких правок в коде.
Количество подобных комбинаций в реальном мире огромно, поэтому вероятность наткнуться на ложную биосигнатуру остается крайне высокой.
"Искусственный интеллект имеет "ахиллесовую пятку". Он может увидеть паттерн и совершенно неправильно его классифицировать", - объяснил профессор микробиологии, молекулярной генетики, физики и астрономии Кристоф Адами.
Прямая угроза для космических миссий и земных технологий
Обнаруженная уязвимость создает риски для будущих исследований NASA и других космических агентств, планирующих использовать ШИ-сенсоры на марсоходах и зондах у спутников Юпитера и Сатурна.
Если автономный аппарат на Марсе сделает ошибочный вывод об обнаружении жизни, проверить эти данные до возвращения образцов на Землю будет невозможно.
Кроме астробиологии, слабость распознавания паттернов угрожает и другим сферам, где ИИ внедряется без надлежащего контроля - от медицинских сканеров и камер наблюдения до автопилотов в машинах.
"Это не значит, что использовать такие методы в астробиологии, медицинской диагностике или на поле боя бесполезно. Вам нужен независимый способ проверки работы ИИ. В цепи принятия решений обязательно должен оставаться человек", - подытожил Адами.