Папа Римський повинен був піти далі в питанні про ШІ

Поширення штучного інтелекту кардинально змінює усталений спосіб життя в усьому світі. У відповідь на це глава Католицької церкви випустив документ, де описує своє ставлення до ШІ, але наголошує лише на деяких його аспектах.

Чому дискусія щодо штучного інтелекту потребує ширшого залучення моральних авторитетів людства та якою має бути відповідь на виклики, пов'язані з розповсюдженням цієї технології – читайте в колонці лауреата Нобелівської премії з економіки 2024 року Дарона Аджемоглу.

Штучний інтелект змінює те, як ми спілкуємося, отримуємо доступ до інформації і працюємо, як розподіляються доходи і статус, і навіть те, як ми ведемо війни. Проте суспільна дискусія, як і раніше, вузько зосереджена на конкуренції між лабораторіями ШІ або на абстрактних дебатах про можливості цієї технології.

Практично ніхто не переймається питанням, якій меті має слугувати ШІ, або чи здатні наше нинішнє мислення, інститути та механізми контролю спрямувати цю технологію на широке поліпшення добробуту людей.

Тому було приємно побачити, що Папа Лев XIV висловився з цього питання у своїй першій енцикліці, в якій він описує нинішню траєкторію розвитку ШІ як серйозну загрозу людській гідності. Як економіст, який давно стверджує, що результати технологічного прогресу – це питання вибору, а не долі, я вітаю його втручання.

Лев випереджає більшість коментаторів, вказуючи, що "технологія ніколи не буває нейтральною, бо вона набуває рис тих, хто її розробляє, фінансує, регулює і використовує". І все ж я побоююся, що навіть він не зайшов досить далеко в найважливішому питанні: для чого має бути розроблений ШІ?

Як ми з Саймоном Джонсоном наголошуємо в нашій книжці "Влада і прогрес: наша тисячолітня боротьба за технології та процвітання", у такої технології, як ШІ, є безліч шляхів розвитку, і кожен із них має далекосяжні наслідки для суспільства.

Наприклад, Папа має рацію, ставлячи під сумнів нинішній напрямок розвитку ШІ у військовій справі та правоохоронній діяльності. Те, що ще кілька років тому було табу – масове стеження за допомогою ШІ, алгоритми, які обирають цілі для знищення, – стало звичайною справою.

У той час як багато хто в Кремнієвій долині закликає Сполучені Штати зміцнити свою "жорстку силу" за допомогою нового військово-алгоритмічного комплексу, Лев попереджає, що "будь-яка технологія, що полегшує напад, не даючи змоги побачити обличчя людей, знижує моральний поріг конфлікту".

Потім Папа закликає до "роззброєння ШІ", щоб звільнити його "відментальності "збройної" конкуренції, яка сьогодні не обмежується просто військовим контекстом, а є також економічним і когнітивним явищем".

За цими конкретними побоюваннями лежить більш фундаментальна мудрість: технологічний прогрес не обов'язково є моральним прогресом. Те, що щось технічно здійсненне, не означає, що це добре для людства.

Бажаність тієї чи іншої технології залежить від того, хто нею керує, а також від ідеології та інтересів, якими керуються ці люди.

Лев натякає на те, що я вважаю найбільш безпосереднім ризиком, а саме: "хоча ШІ обіцяє підвищити продуктивність, взявши на себе рутинні завдання, він часто змушує працівників пристосовуватися до швидкості та вимог машин, замість того щоб проектувати машини для роботи з тими, хто працює".

Але Папа не доходить до того, щоб поставити під сумнів панівну філософію проектування ШІ. Підхід усієї індустрії ШІ зосереджений на імітації людських здібностей та автоматизації людських завдань з метою створення "штучного загального інтелекту", здатного робити все, що може людина.

Ця філософія заснована на помилковому припущенні, що машинний інтелект і людський інтелект принципово схожі. Люди – це "одноразові" ті, хто навчається. Ми формуємо гіпотези на основі кількох прикладів, моделюємо можливості у своїй уяві й уточнюємо своє розуміння через соціальний процес проб і помилок.

Тому діти вчать мову, наслідуючи кілька слів, узагальнюючи і коригуючи свою мову залежно від того, як на неї реагують оточуючі. Ми не дуже хороші в засвоєнні величезних обсягів інформації або у відборі релевантних патернів з неструктурованих даних.

Навпаки, моделі ШІ процвітають на величезних навчальних наборах і чудові в розпізнаванні патернів у великих масштабах, але їм ще належить продемонструвати справжню креативність.

У них немає ні досвіду втілення в реальному світі, ні здатності до навчання методом проб і помилок через взаємодію з фізичним і соціальним світом (за винятком обмежених випадків, коли існують явні винагороди для навчання з підкріпленням у конкретних галузях).

Коли дві речі різняться, не слід – і, як правило, неможливо – використовувати одну для імітації іншої. Результати будуть неоптимальними.

Було б колосальною помилкою, якби Філ Джексон, легендарний тренер "Чикаго Буллз" 1990-х років, підштовхував Майкла Джордана до того, щоб той копіював усе, що робили Скотті Піппен і Денніс Родман. Команда переходила від одного чемпіонства до іншого саме тому, що ці гравці працювали разом і доповнювали навички один одного.

Те ж саме стосується ШІ та людських навичок. Використання ШІ для виконання того, що не під силу людині, для того щоб людина могла розширити сферу своєї діяльності, більш продуктивне, ніж наслідування.

У майбутньому сценарії, де ШІ розширює, а не витісняє людські можливості, електрики користуватимуться допомогою ШІ-діагностики, медсестри звертатимуться до ШІ під час інтерпретації симптомів, а вчителі можуть використовувати ШІ для персоналізації навчання кожного учня.

Оптимісти та інсайдери галузі можуть відповісти, що ШІ, орієнтований на автоматизацію, все одно може принести користь усім, за умови, що політика перерозподілу доходів буде йти в ногу з цим. Але цей аргумент має погану репутацію.

Чотири десятиліття цифрової автоматизації вже призвели до концентрації вигод у верхівки, спустошили ринок праці із середньою кваліфікацією і призвели до не втішного сукупного зростання продуктивності. Є мало підстав очікувати, що ще потужніший виток автоматизації, впроваджуваний ще більш концентрованою галуззю, закінчиться інакше.

А глобальні ставки ще вищі, ніж у США. Для мільярдів людей у країнах, що розвиваються, де гідна робота – єдиний надійний шлях виходу з бідності, орієнтований на автоматизацію порядок денний у сфері ШІ – це рецепт катастрофи. Ми можемо і повинні вимагати іншого підходу.

Можливо, найбільшим недоліком сучасної індустрії ШІ є її відмова визнавати все це. Жменька людей, які випускають цю технологію у світ, керується ідеологією контролю (над людством) і переконанням, що машини в усіх відношеннях кращі за людей.

Лев має рацію, закликаючи до моральної ясності та серйозної суспільної дискусії. Але розмова має вийти за рамки закликів і перейти до конкретних рішень: антимонопольні заходи проти домінантних платформ, державні інвестиції в ШІ, що доповнює людину, регулювання систем стеження та автономної зброї, а також реальні права працівників і громадян щодо даних, від яких залежать ці системи.

Виступ Лева робить таку відповідь трохи більш імовірною, ніж раніше. Але й решта з нас мають стати на захист людства.

Дарон Аджемоглу, лауреат Нобелівської премії з економіки 2024 року і професор економіки в Массачусетському технологічному інституті, є співавтором (разом із Саймоном Джонсоном) книжки "Влада і прогрес: наша тисячолітня боротьба за технології та процвітання" (PublicAffairs, 2023).

Авторські права: Project Syndicate, 2026. www.project-syndicate.org