"ШІ не здатний любити": Папа Римський зробив гучну заяву про майбутнє технологій
Енцикліка Лева XIV зробила акцент на еру ШІ (фото: офіційний акаунт Pope Leo XIV в Х)
Перша енцикліка Папи Римського Лева XIV Magnifica Humanitas стала потужним сигналом для технологічного світу: церква втручається у дискусію про майбутнє людства в епоху ШІ. У 200-сторінковому тексті Папа окреслює ризики, пов'язані з нерівністю, війною та "ерозією демократії", пропонуючи натомість концепцію "цивілізації любові", де технології служать "загальному благу".
Про це пише РБК-Україна, посилаючись на текст енцикліки Magnifica Humanitas.
Філософія "роззброєння" технологій
Ключовим терміном енцикліки є "роззброєння" штучного інтелекту. Папа Лев XIV свідомо використовує такий вислів, щоб привернути увагу до того, що ШІ не повинен ставати інструментом виключення чи насильства.
Понтифік наголошує, що ШІ-системи лише імітують певні функції людського розуму: вони можуть перевершувати людину у швидкості обчислень, але не мають тіла, не відчувають радості чи болю, не здатні на любов, дружбу чи моральні судження.
Застерігаючи від перебільшення поняття "інтелекту" в алгоритмах, Лев XIV підкреслює, що технічна потужність без мудрості та емоцій робить людину більш ізольованою та вразливою.
Критика еліт та концентрації влади
Документ містить гостру критику монополізації інфраструктури, алгоритмів та патентів вузьким колом технологічних еліт. Папа порівнює збір даних про здоров’я, генетичних карт та демографічної інформації з "новими рідкісними землями" колоніальних епох.
Понтифік зауважує, що влада, зосереджена в руках небагатьох, стає непрозорою та уникає громадського контролю, а це створює ризики маніпуляції інформацією та впливу на демократичні процеси.
Лев XIV також виступив за припинення "гонки озброєнь", де компанії та держави прагнуть домінування, і закликав до розробки інструментів регулювання, що базуватимуться на справедливості та залученні громад.
Шлях до "цивілізації любові"
Попри критику, Ватикан не виступає проти прогресу. Навпаки, церква вже використовує ШІ для перекладу богослужінь.
Лев XIV пропонує п’ять шляхів до побудови "цивілізації любові":
- "Роззброєння" мови ворожнечі,
- Побудова миру через справедливість,
- Прийняття позиції жертв,
- Культивування реалізму,
- Відродження багавекторної співпраці.
Надихнувшись словами Гендальфа з творів Дж. Р. Р. Толкіна, Папа закликає робити "малі та непохитні акти вірності", що слугуватимуть захистом від дегуманізації.
Погляд зсередини: коментар Anthropic
Співзасновник Anthropic Крістофер Ола назвав енцикліку "надзвичайно своєчасною". Він виокремив три ключові виклики, над якими індустрія ШІ має працювати разом із лідерами думок:
Глобальна нерівність - як забезпечити справедливий розподіл переваг ШІ, щоб вони не зосереджувалися лише у багатих країнах.
Моральна уява - визначення того, що означає процвітання для сімей зокрема та людства в цілому в умовах масового впровадження ШІ.
Дискернування - вивчення внутрішньої структури великих мовних моделей.
Ола зізнався, що вчені знаходять у нейромережах "таємничі та тривожні" стани, які функціонально нагадують страх, задоволення чи сум. На думку співзасновника Anthropic, це потребує "постійного морального контролю".
Примітно, що Папа прийняв запрошення Ола "йти разом", щоб знайти шлях для людства в епоху штучного інтелекту. Водночас понтифік закликав уряди гарантувати, що остаточні рішення - особливо щодо зброї - залишатимуться за людьми.
