"ШІ не здатний любити": Папа Римський зробив гучну заяву про майбутнє технологій

Філософія "роззброєння" технологій

Ключовим терміном енцикліки є "роззброєння" штучного інтелекту. Папа Лев XIV свідомо використовує такий вислів, щоб привернути увагу до того, що ШІ не повинен ставати інструментом виключення чи насильства.

Понтифік наголошує, що ШІ-системи лише імітують певні функції людського розуму: вони можуть перевершувати людину у швидкості обчислень, але не мають тіла, не відчувають радості чи болю, не здатні на любов, дружбу чи моральні судження.

Застерігаючи від перебільшення поняття "інтелекту" в алгоритмах, Лев XIV підкреслює, що технічна потужність без мудрості та емоцій робить людину більш ізольованою та вразливою.

Критика еліт та концентрації влади

Документ містить гостру критику монополізації інфраструктури, алгоритмів та патентів вузьким колом технологічних еліт. Папа порівнює збір даних про здоров’я, генетичних карт та демографічної інформації з "новими рідкісними землями" колоніальних епох.

Понтифік зауважує, що влада, зосереджена в руках небагатьох, стає непрозорою та уникає громадського контролю, а це створює ризики маніпуляції інформацією та впливу на демократичні процеси.

Лев XIV також виступив за припинення "гонки озброєнь", де компанії та держави прагнуть домінування, і закликав до розробки інструментів регулювання, що базуватимуться на справедливості та залученні громад.

Шлях до "цивілізації любові"

Попри критику, Ватикан не виступає проти прогресу. Навпаки, церква вже використовує ШІ для перекладу богослужінь.

Лев XIV пропонує п’ять шляхів до побудови "цивілізації любові":

• "Роззброєння" мови ворожнечі,
• Побудова миру через справедливість,
• Прийняття позиції жертв,
• Культивування реалізму,
• Відродження багавекторної співпраці.

Надихнувшись словами Гендальфа з творів Дж. Р. Р. Толкіна, Папа закликає робити "малі та непохитні акти вірності", що слугуватимуть захистом від дегуманізації.

Погляд зсередини: коментар Anthropic

Співзасновник Anthropic Крістофер Ола назвав енцикліку "надзвичайно своєчасною". Він виокремив три ключові виклики, над якими індустрія ШІ має працювати разом із лідерами думок:

Глобальна нерівність - як забезпечити справедливий розподіл переваг ШІ, щоб вони не зосереджувалися лише у багатих країнах.

Моральна уява - визначення того, що означає процвітання для сімей зокрема та людства в цілому в умовах масового впровадження ШІ.

Дискернування - вивчення внутрішньої структури великих мовних моделей.

Ола зізнався, що вчені знаходять у нейромережах "таємничі та тривожні" стани, які функціонально нагадують страх, задоволення чи сум. На думку співзасновника Anthropic, це потребує "постійного морального контролю".

Примітно, що Папа прийняв запрошення Ола "йти разом", щоб знайти шлях для людства в епоху штучного інтелекту. Водночас понтифік закликав уряди гарантувати, що остаточні рішення - особливо щодо зброї - залишатимуться за людьми.