8 квадриллионов лет на проверку: ученые доказали невозможность безопасного ИИ
ИИ никогда не будет идеальным (фото: Magnific)
Искусственный интеллект невозможно сделать на 100 процентов предсказуемым и безопасным - этому мешают фундаментальные математические ограничения. Ученые выделяют по меньшей мере 2 предела, которые нельзя преодолеть даже при неограниченных вычислительных мощностях.
Об этом информирует РБК-Украина, ссылаясь на исследование, опубликованное в Transactions of the American Mathematical Society.
Что говорит математика?
Первая преграда - это нехватка времени .
В математике существует классическая "задача комбинаторики": воображаемой программе нужно найти кратчайший маршрут для курьера, который должен объехать несколько городов и вернуться назад.
Если мост всего 10, обычный компьютер находит вариант за доли секунды.
Но если городов становится 20, количество возможных комбинаций растет до 2,4 квинтиллиона, а время расчета увеличивается до 77 лет. А если мост 30, количество комбинаций достигает астрономического числа с 32 нулями (свыше 260 нонильонов).
Чтобы просто перебрать все эти пути, самому быстрому компьютеру понадобится 8,4 квадриллиона лет. Это примерно в 600 тысяч раз дольше, чем существует наша Вселенная.
Ни одно ускорение процессоров не способно это исправить, ведь скорость роста количества вариантов всегда опережает любые технологические достижения.
Вторая преграда - это вопросы, на которые, в принципе, не существует алгоритмического ответа.
Еще в 1953 году была подтверждена теорема Райса. Она говорит о том, что ни одна программа не способна автоматически проверить произвольный код и гарантировать, что он будет всегда вести себя так, как задумал автор.
Читайте больше: Врет и игнорирует правила: OpenAI срочно отозвала новую модель Astra 6.1
Почему это мешает сделать ИИ безопасным?
Проблема выравнивания ИИ - то есть гарантия того, что система будет действовать исключительно в пользу человека и не нанесет вреда - сталкивается с обоими этими барьерами одновременно.
Нехватка времени на проверку: чтобы проверить только 6 параметров безопасности с 10 вариантами настроек в каждом компьютере необходимо проанализировать миллион комбинаций.
В реальных системах безопасности таких параметров гораздо больше.
Невозможность точного доказательства: гарантировать, что ИИ будет вести себя безопасно при любых возможных ситуациях и командах, математически невозможно именно из-за теоремы Райса.
Поэтому ученые отказались от идеи "математически доказать безопасность" и используют лишь ограниченные тесты.
Больше интересного: Робот-гуманоид заплакал на публике: как Yansyn-X2 имитирует эмпатию
Квантовые компьютеры и практический компромисс
Квантовые вычисления часто считают панацеей. Ученые акцентируют внимание: они лишь отодвигают стену, а не убирают ее.
Так, известный квантовый алгоритм Гровера 1996 позволяет существенно ускорить поиск. Благодаря ему расчет для 20 городов сокращается с 77 лет до двух секунд, а для 30 городов - с 8.4 квадриллиона лет до шести месяцев.
Однако если количество городов или параметров будет расти дальше, взрывное увеличение комбинаций снова будет опережать даже квантовые мощности.
В реальной жизни подобные сложные задачи решают изменением самого подхода к слову "решение".
Как именно?
Логистические компании ежедневно строят детальные маршруты для тысяч грузовиков с помощью упрощенных правил: они получают маршрут, который лишь на несколько процентов отличается от идеального, но это делается в считанные секунды.
Прикладной ИИ работает точно так же: разработчики строят системы, демонстрирующие высокую эффективность, не предоставляя при этом абсолютных математических гарантий.
Более совершенная модель ИИ не меняет законов математики - она просто делает свои приблизительные догадки значительно точнее.
