Переживет ли демократия искусственный интеллект?

Главное:

• Какие возможности технология ИИ дала демократическим странам и автократиям?
• Как искусственный интеллект влияет на внутреннюю стабильность государств?
• Каким образом человечество может избежать наиболее катастрофических сценариев в контексте распространения ИИ?

Цифровые технологии должны были распылить власть. Первые интернет-провидцы надеялись, что революция, которую они начинали, даст людям возможность освободиться от невежества, бедности и тирании. И по крайней мере на некоторое время так и произошло. Но сегодня все более умные алгоритмы все чаще предсказывают и формируют каждый наш выбор, делая возможным беспрецедентно эффективные формы централизованного, неподотчетного надзора и контроля.

Это означает, что грядущая революция ИИ может сделать закрытые политические системы более стабильными, чем открытые. В эпоху быстрых изменений прозрачность, плюрализм, система сдержек и противовесов и другие ключевые черты демократии могут оказаться обязательствами. Может ли открытость, которая долгое время давала демократии преимущество, стать причиной их гибели?

Два десятилетия назад я начертил "J-кривую", чтобы проиллюстрировать связь между открытостью страны и ее стабильностью. Мой аргумент, если коротко, заключался в том, что в то время как зрелые демократии стабильны, потому что они открыты, а консолидированные автократии стабильны, потому что они закрыты, страны, застрявшие в беспорядочной середине (самая низкая точка "J"), более склонны к распаду под воздействием стресса.

Но эта взаимосвязь не является статичной; ее формирует технология. В то время мир находился на волне децентрализации. Информационно-коммуникационные технологии (ИКТ) и интернет связывали людей везде, вооружая их большим объемом информации, чем они когда-либо имели, и склоняя чашу весов в сторону граждан и открытых политических систем. От падения Берлинской стены и Советского Союза до цветных революций в Восточной Европе и Арабской весны на Ближнем Востоке глобальная либерализация казалась неумолимой.

С тех пор этот прогресс был отброшен назад. Децентрализующая революция ИКТ уступила место централизующей революции данных, построенной на сетевых эффектах, цифровом наблюдении и алгоритмическом подталкивании. Вместо того, чтобы распылять власть, эта технология сконцентрировала ее, предоставив тем, кто контролирует самые большие массивы данных – будь то правительства или крупные технологические компании – возможность формировать то, что видят, делают и во что верят миллиарды людей.

Когда граждане превратились из главных агентов в объекты технологических фильтров и сбора данных, закрытые системы получили распространение. Достижения цветных революций и Арабской весны были отброшены назад. Венгрия и Турция заткнули рот свободной прессе и политизировали свои судебные органы. Коммунистическая партия Китая (КПК) под руководством Си Цзиньпина консолидировала власть и повернула вспять два десятилетия экономического открытия. И что наиболее драматично, Соединенные Штаты из ведущего мирового экспортера демократии – хоть и непоследовательно и лицемерно – превратились в ведущего экспортера инструментов, которые ее подрывают.

Распространение возможностей искусственного интеллекта усилит эти тенденции. Модели, обученные на наших частных данных, вскоре будут "знать" нас лучше, чем мы сами, будут программировать нас быстрее, чем мы сможем запрограммировать их, и передавать еще больше власти тем немногим, кто контролирует данные и алгоритмы.

Здесь J-кривая искривляется и становится больше похожей на неглубокую "U". По мере распространения ИИ, как плотно закрытые, так и гипероткрытые общества станут относительно более хрупкими, чем они были. Но со временем, по мере совершенствования технологий и консолидации контроля над самыми современными моделями, ИИ может укрепить автократии и ослабить демократию, повернув кривую обратно к перевернутой J, стабильный наклон которой сейчас способствует закрытым системам.

В этом мире КПК сможет превратить свои огромные базы данных, государственный контроль над экономикой и существующий аппарат наблюдения в еще более мощный инструмент репрессий. США будут дрейфовать к клептократической системе, в которой небольшой клуб технологических титанов будет иметь все большее влияние на общественную жизнь, преследуя свои частные интересы. Обе системы станут одинаково централизованными – и доминирующими – за счет граждан. Такие страны, как Индия и страны Персидского залива, пойдут тем же путем, тогда как Европа и Япония столкнутся с геополитической неактуальностью (или, что еще хуже, внутренней нестабильностью), поскольку они отстанут в гонке за господство ИИ.

Антиутопических сценариев, подобных описанным здесь, можно избежать, но только если децентрализованные модели ИИ с открытым исходным кодом окажутся на вершине. На Тайване инженеры и активисты краудсорсингуют модель с открытым исходным кодом, построенную на DeepSeek, надеясь, что продвинутый ИИ останется в общественных, а не корпоративных или государственных руках. (Парадокс заключается в том, что DeepSeek был разработан в авторитарном Китае).

Успех этих тайваньских разработчиков может восстановить часть децентрализации, которую когда-то обещал ранний интернет (хотя это также может снизить барьер для злоумышленников для развертывания вредоносного потенциала). Сейчас, однако, преимущество на стороне закрытых моделей, которые централизуют власть.

История дает по крайней мере крупицу надежды. Каждая предыдущая технологическая революция – от печатного станка и железных дорог до средств массовой информации – дестабилизировала политику и вынуждала к появлению новых норм и институтов, которые в конце концов восстанавливали баланс между открытостью и стабильностью. Вопрос заключается в том, смогут ли демократии снова адаптироваться, причем вовремя, до того, как ИИ вычеркнет их из сценария.

Авторское право: Project Syndicate, 2025.www.project-syndicate.org