Папа Римский должен был пойти дальше в вопросе об ИИ

Искусственный интеллект меняет то, как мы общаемся, получаем доступ к информации и работаем, как распределяются доходы и статус, и даже то, как мы ведем войны. Тем не менее, общественная дискуссия по-прежнему узкососредоточена на конкуренции между лабораториями ИИ или на абстрактных дебатах о возможностях этой технологии.

Практически никто не задается вопросом, какой цели должен служить ИИ, или способны ли наше нынешнее мышление, институты и механизмы контроля направить эту технологию на широкое улучшениеблагосостояния людей.

Поэтому было приятно увидеть, что Папа Лев XIV высказался по этому вопросу в своей первой энциклике, в которой он описывает нынешнюю траекторию развития ИИ как серьезную угрозу человеческому достоинству. Как экономист, который давно утверждает, что результаты технологического прогресса – это вопрос выбора, а не судьбы, я приветствую его вмешательство.

Лев опережает большинство комментаторов, указывая, что "технология никогда небывает нейтральной, потому что она приобретает черты тех, кто ее разрабатывает, финансирует, регулирует и использует". И все же я опасаюсь, что даже он не зашел достаточно далеко в самом важном вопросе: для чего должен быть разработан ИИ?

Как мы с Саймоном Джонсоном подчеркиваем в нашей книге "Власть и прогресс: наша тысячелетняя борьба за технологии и процветание", у такой технологии, как ИИ, есть множество путей развития, и каждый из них имеет далеко идущиепоследствия для общества.

Например, Папа прав, ставя под сомнение нынешнеенаправление развития ИИ в военном деле и правоохранительной деятельности. То, что еще несколько лет назад было табу – массовая слежка с помощью ИИ, алгоритмы, выбирающие цели для уничтожения, – стало обычным делом.

В то время как многие в Кремниевой долине призывают Соединенные Штаты укрепить свою "жесткую силу" с помощью нового военно-алгоритмического комплекса, Лев предупреждает, что "любая технология, которая облегчает нападение, не позволяя увидеть лица людей, снижает моральный порог конфликта".

Затем Папа призывает к "разоружению ИИ", чтобы освободить его "отментальности "вооруженной" конкуренции, которая сегодня не ограничивается просто военным контекстом, но является также экономическим и когнитивным явлением".

За этими конкретными опасениями лежит более фундаментальная мудрость: технологический прогресс не обязательно является моральным прогрессом. То, что что-то технически осуществимо, не означает, что это хорошо для человечества.

Желательность той или иной технологии зависит от того, кто ею управляет, а такжеот идеологии и интересов, которыми руководствуются эти люди.

Лев намекает на то, что я считаю самым непосредственным риском, а именно: "хотя ИИ обещает повысить производительность, взяв на себя рутинные задачи, он часто заставляет работников приспосабливаться к скорости и требованиям машин, вместотого чтобы проектировать машины для работы с теми, кто работает".

Но Папа недоходит до того, чтобы поставить под сомнение господствующую философию проектирования ИИ. Подход всей индустрии ИИ сосредоточен на имитации человеческих способностей и автоматизации человеческих задач с целью создания "искусственного общего интеллекта", способного делать все, что может человек.

Эта философия основана на ошибочном предположении, что машинный интеллект и человеческий интеллект принципиально схожи. Люди – это "однократные" обучающиеся. Мы формируем гипотезы на основе нескольких примеров, моделируем возможности в своем воображении и уточняем свое понимание через социальный процесс проб и ошибок.

Поэтому дети учат язык, подражая нескольким словам, обобщая и корректируя свою речь в зависимости от того, как на нее реагируют окружающие. Мы не очень хороши в усвоении огромных объемов информации или в отборе релевантных паттернов из неструктурированных данных.

Напротив, модели ИИ процветают на огромных обучающих наборах и превосходны в распознавании паттернов в больших масштабах, но им еще предстоит продемонстрировать подлинную креативность.

У них нет опыта воплощения в реальном мире, ни способности к обучению методом проб и ошибок через взаимодействие с физическим и социальным миром (за исключением ограниченных случаев, когда существуют явные вознаграждения для обучения с подкреплением в конкретных областях).

Когда две вещи различаются, не следует – и, как правило, невозможно – использовать одну для имитации другой. Результаты будут неоптимальными.

Было бы колоссальной ошибкой, если бы Фил Джексон, легендарный тренер "Чикаго Буллз" 1990-х годов, подталкивал Майкла Джордана к тому, чтобы тот копировал все, что делали Скотти Пиппен и Деннис Родман. Команда переходила от одного чемпионства к другому именно потому, что эти игроки работали вместе и дополняли навыки друг друга.

То же самое относится к ИИ и человеческим навыкам. Использование ИИ для выполнения того, что не под силу человеку, с тем чтобы человек мог расширить сферу своей деятельности, более продуктивно, чем подражание.

В будущем сценарии, где ИИ расширяет, а не вытесняет человеческие возможности, электрики будут пользоваться помощью ИИ-диагностики, медсестры будут обращаться к ИИ при интерпретации симптомов, а учителя могут использовать ИИ для персонализации обучения каждого ученика.

Оптимисты и инсайдеры отрасли могут ответить, что ИИ, ориентированный на автоматизацию, все равно может принести пользу всем, при условии, что политика перераспределения доходов будет идти в ногу с этим. Но этот аргумент имеет плохую репутацию.

Четыре десятилетия цифровой автоматизации уже привели к концентрации выгод у верхушки, опустошили рынок труда со средней квалификацией и привели к не утешительному совокупному росту производительности. Есть мало оснований ожидать, что еще более мощный виток автоматизации, внедряемый еще более концентрированной отраслью, закончится иначе.

А глобальные ставки еще выше, чем в США. Для миллиардов людей в развивающихся странах, где достойная работа – единственный надежный путь выхода из бедности, ориентированная на автоматизацию повестка дня в области ИИ – это рецепт катастрофы. Мы можем и должны требовать иного подхода.

Возможно, самым большим недостатком современной индустрии ИИ является ее отказ признавать все это. Горстка людей, выпускающих эту технологию в мир, руководствуется идеологией контроля (над человечеством) и убеждением, что машины во всех отношениях лучше людей.

Лев прав, призывая к моральной ясности и серьезной общественной дискуссии. Но разговор должен выйти за рамки призывов и перейти к конкретным решениям: антимонопольные меры против доминирующих платформ, государственные инвестиции в ИИ, дополняющий человека, регулирование систем слежения и автономного оружия, а также реальные права работников и граждан в отношении данных, от которых зависят эти системы.

Выступление Льва делает такой ответ немного более вероятным, чем раньше. Но и остальные из нас должны встать на защиту человечества.

Дарон Аджемоглу, лауреат Нобелевской премии по экономике 2024 года ипрофессор экономики в Массачусетском технологическом институте, являетсясоавтором (совместно с Саймоном Джонсоном) книги "Власть и прогресс: наша тысячелетняя борьба за технологии и процветание" (PublicAffairs, 2023).

Авторские права: Project Syndicate, 2026. www.project-syndicate.org