"ИИ не способен любить": Папа Римский сделал громкое заявление о будущем технологий
Первая энциклика Папы Римского Льва XIV Magnifica Humanitas стала мощным сигналом для технологического мира: церковь вмешивается в дискуссию о будущем человечества в эпоху ИИ. В 200-страничном тексте Папа очерчивает риски, связанные с неравенством, войной и "эрозией демократии", предлагая взамен концепцию "цивилизации любви", где технологии служат "всеобщему благу".
Об этом пишет РБК-Украина, ссылаясь на текст энциклики Magnifica Humanitas.
Философия "разоружения" технологий
Ключевым термином энциклики является "разоружение" искусственного интеллекта. Папа Лев XIV сознательно использует такое выражение, чтобы привлечь внимание к тому, что ИИ не должен становиться инструментом исключения или насилия.
Понтифик отмечает, что ИИ-системы лишь имитируют определенные функции человеческого разума: они могут превосходить человека в скорости вычислений, но не имеют тела, не чувствуют радости или боли, не способны на любовь, дружбу или моральные суждения.
Предостерегая от преувеличения понятия "интеллекта" в алгоритмах, Лев XIV подчеркивает, что техническая мощь без мудрости и эмоций делает человека более изолированным и уязвимым.
Критика элит и концентрации власти
Документ содержитострую критику монополизации инфраструктуры, алгоритмов и патентов узким кругом технологических элит. Папа сравнивает сбор данных о здоровье, генетических карт и демографической информации с "новыми редкими землями" колониальных эпох.
Понтифик отмечает, что власть, сосредоточенная в руках немногих, становится непрозрачной и избегает общественного контроля, а это создает риски манипуляции информацией и влияния на демократические процессы.
Лев XIV также выступил за прекращение "гонки вооружений", где компании и государства стремятся к доминированию, и призвал к разработке инструментов регулирования, основанных на справедливости и привлечении общин.
Путь к "цивилизации любви"
Несмотря на критику, Ватикан не выступает против прогресса. Наоборот, церковь уже использует ИИ для перевода богослужений.
Лев XIV предлагает пять путей к построению "цивилизации любви":
- "Разоружение" языка вражды,
- Построение мира через справедливость,
- Принятие позиции жертв,
- Культивирование реализма,
- Возрождение многовекторного сотрудничества.
Вдохновившись словами Гэндальфа из произведений Дж. Р. Р. Толкина, Папа призывает делать "малые и непоколебимые акты верности", которые будут служить защитой от дегуманизации.
Взгляд изнутри: комментарий Anthropic
Соучредитель Anthropic Кристофер Ола назвал энциклику "чрезвычайно своевременной". Он выделил три ключевых вызова, над которыми индустрия ИИ должна работать вместе с лидерами мнений:
Глобальное неравенство - как обеспечить справедливое распределение преимуществ ИИ, чтобы они не сосредотачивались только в богатых странах.
Моральное воображение - определение того, что означает процветание для семей в частности и человечества в целом в условиях массового внедрения ИИ.
Дискернирование - изучение внутренней структуры больших языковых моделей.
Ола признался, что ученые находят в нейросетях "таинственные и тревожные" состояния, которые функционально напоминают страх, удовольствие или печаль. По мнению соучредителя Anthropic, это требует "постоянного морального контроля".
Примечательно, что Папа принял приглашение Ола "идти вместе", чтобы найти путь для человечества в эпоху искусственного интеллекта. В то же время понтифик призвал правительства гарантировать, что окончательные решения - особенно в отношении оружия - будут оставаться за людьми.