Поиск жизни в космосе под угрозой: ученые обнаружили слабое место ИИ
Ученые из Университета штата Мичиган обнаружили, что ИИ склонен ошибочно классифицировать неодушевленные объекты как живые организмы. Они предупреждают, что это создает серьезные риски для будущих космических миссий по поиску внеземной жизни.
Об этом пишет РБК-Украина со ссылкой на Space.
"Ахиллесова пята" ИИ
Главная проблема современных моделей нейросетей, считают ученые, заключается в работе с так называемыми "внераспределительными" образцами - объектами, которые отличаются от данных, использованных во время обучения алгоритму.
По словам вычислительного биолога Кристофа Адами, ИИ очень легко ввести в заблуждение. Исследователь определяет жизнь через его способность кодировать и воспроизводить информацию.
"Поскольку биология на других планетах может кардинально отличаться от земной, космические аппараты будут полагаться именно на такие универсальные маркеры", - объясняет исследователь.
Эксперимент с цифровой жизнью
Для проверки надежности ИИ ученые Кристоф Адами и Анкит Гупта провели тестирование с помощью компьютерной программы Avida.
Платформа моделирует цифровые организмы посредством программного кода, способного мутировать, самовоспроизводиться и соревноваться за процессорное время.
Тестирование длилось 3 месяца с использованием 1000 параллельных компьютеров:
- ИИ должен был отличить цифровые организмы со свойствами жизни от неодушевленного кода.
- Вначале алгоритму дали последовательности, имитирующие случайный набор молекул.
- Ученые постепенно изменяли структуру кода, наблюдая за "уверенностью" нейросети.
В результате точечных корректировок ученым удалось полностью обмануть искусственный интеллект, заставив его признать неодушевленную программу полноценным живым организмом.
Почему это грозит будущим космическим миссиям?
Обнаруженная уязвимость свидетельствует о том, что работы и марсоходы, оснащенные ИИ, могут выдавать ложноположительные результаты.
Ошибочная идентификация биомаркеров на других планетах чревата бесполезным расходованием ресурсов и времени на исследование объектов, которые на самом деле не имеют никакого отношения к внеземной жизни.