ШІ може загрожувати людству: в Сенаті США закликали припинити розвиток суперінтелекту

Cенатор закликав тимчасово призупинити розробку передових систем ШІ та заборонити створення штучного надінтелекту, який перевершуватиме людські можливості.

На думку Сандерса, майбутнє людства дедалі більше залежить від рішень невеликої групи найбагатших представників технологічної індустрії.

Вони вкладають величезні кошти в штучний інтелект і водночас обговорюють сценарії, за яких люди можуть об'єднатися з машинами або поступитися їм місцем.

"Чи повинні люди залишатися господарями планети Земля? Чи нас мають замінити як домінантний вид?" - такими питаннями сенатор розпочав свою колонку.

Що планують технологічні мільярдери

Сандерс звернув увагу на висловлювання керівників провідних технологічних компаній, які розмірковують про майбутнє співіснування людей і цифрового інтелекту.

Зокрема, керівник OpenAI Сем Альтман ще у 2017 році писав, що штучний інтелект може дозволити людству стати першим видом, який самостійно створюватиме власних нащадків.

Альтман припускав два можливі сценарії: люди можуть запустити розвиток цифрового інтелекту й згодом відійти на другий план еволюції або знайти спосіб успішно об'єднатися з машинами. Він також висловлював думку, що цей процес уже розпочався.

Глава Anthropic Даріо Амодей допускав можливість того, що моделі штучного інтелекту можуть мати свідомість, хоча це питання залишається відкритим.

Окремо сенатор згадав Ілона Маска, який виступає за розвиток надінтелекту, здатного поширитися за межі Землі. Сандерс трактує такі погляди як ознаку того, що деякі представники технологічної індустрії розглядають людство лише як проміжний етап на шляху до цифрової надрозумної системи.

Також він звернув увагу на співзасновника Palantir Пітера Тіля. За словами сенатора, відповідаючи на запитання про бажаність подальшого існування людства, мільярдер не зміг одразу дати однозначну відповідь.

Як трансгуманізм пов'язаний зі штучним інтелектом

Сандерс пов'язує такі погляди з трансгуманізмом - напрямом, прихильники якого вважають, що технології дадуть змогу вийти за межі нинішніх біологічних можливостей людини.

Це може передбачати створення нового виду або інтеграцію людського організму з машинами. Прихильники таких концепцій припускають, що майбутні форми життя зможуть перевершити людей за інтелектом, подорожувати космосом і навіть досягти безсмертя.

На думку сенатора, проблема полягає в тому, що подібні ідеї підтримують не лише прихильники наукової фантастики, а й впливові підприємці, які мають ресурси для втілення своїх задумів.

Він також наголосив, що можливості штучного інтелекту вже швидко розширюються. Такі системи працюють із мовою, розв'язують складні математичні завдання та дедалі краще імітують спілкування з людьми.

Серед прикладів технологічного зближення людини й машин Сандерс навів Neuralink Ілона Маска, яка розробляє мозкові імпланти для взаємодії з комп'ютерами.

Ще один приклад - пропозиції щодо створення компаній, якими керуватимуть агенти штучного інтелекту, без обов'язкової участі людей як акціонерів.

Чому Сандерс вимагає обмежити розвиток ШІ

Сенатор стверджує, що суспільство не обов'язково підтримує бачення майбутнього, яке просувають керівники технологічних компаній.

У своїй колонці він навів дані опитувань, згідно з якими 91% американців вважають, що розвиток штучного інтелекту потребує запобіжників, 74% не довіряють керівникам ШІ-компаній, а 73% побоюються, що ця технологія може загрожувати виживанню людства.

Сандерс також згадав застереження Папи Римського Лева XIV щодо технологічного розвитку, який може призвести до знецінення людської гідності. Понтифік попереджав про ризик перетворення людини на набір даних, гвинтик у машині або товар.

За словами сенатора, Пітер Тіль у відповідь назвав понтифіка "агентом китайських комуністів".

Які обмеження пропонує сенатор

Сандерс закликав негайно призупинити розробку передових систем штучного інтелекту та заборонити створення штучного надінтелекту до появи механізмів, які гарантуватимуть безпеку цієї технології.

Йдеться про системи, інтелект яких перевищуватиме можливості будь-якої людини та які зможуть діяти автономно поза межами людського контролю.

Сенатор повідомив, що разом із конгресменом Грегом Касаром просуває законодавчу ініціативу, спрямовану на обмеження таких розробок.

На переконання Сандерса, рішення про майбутнє штучного інтелекту не можна залишати в руках невеликої групи мільярдерів, зацікавлених у грошах і владі.

Він вважає, що суспільство та демократичні інституції мають визначати межі технологічного розвитку, щоб людина залишалася в центрі цього процесу.