ИИ может угрожать человечеству: в Сенате США призвали прекратить развитие суперинтеллекта

Cенатор призвал временно приостановить разработку передовых систем ИИ и запретить создание искусственного сверхинтеллекта, превосходящего человеческие возможности.

По мнению Сандерса, будущее человечества все больше зависит от решений небольшой группы богатейших представителей технологической индустрии.

Они вкладывают огромные средства в искусственный интеллект и вместе с тем обсуждают сценарии, при которых люди могут объединиться с машинами или уступить их место.

"Должны ли люди оставаться хозяевами планеты Земля? Должны ли нас заменить как доминантный вид?" – такими вопросами сенатор начал свою колонку.

Что планируют технологические миллиардеры

Сандерс обратил внимание на высказывания руководителей ведущих технологических компаний, рассуждающих о будущем сосуществовании людей и цифровом интеллекте.

В частности, руководитель OpenAI Сэм Альтман еще в 2017 году писал, что искусственный интеллект может позволить человечеству стать первым видом, который будет самостоятельно создавать собственных потомков.

Альтман предполагал два возможных сценария: люди могут запустить развитие цифрового интеллекта и со временем отойти на второй план эволюции или найти способ успешно объединиться с машинами. Он также выразил мнение, что этот процесс уже начался.

Глава Anthropic Дарио Амодей допускал возможность того, что модели искусственного интеллекта могут обладать сознанием, хотя этот вопрос остается открытым.

Отдельно сенатор упомянул Илона Маска, выступающего за развитие сверхинтеллекта, способного распространиться за пределы Земли. Сандерс трактует такие взгляды как признак того, что некоторые представители технологической индустрии рассматривают человечество только как промежуточный этап на пути к цифровой сверхумной системе.

Также он обратил внимание на соучредителя Palantir Питера Тиля. По словам сенатора, отвечая на вопрос о желательности дальнейшего существования человечества, миллиардер не смог сразу дать однозначный ответ.

Как трансгуманизм связан с искусственным интеллектом

Сандерс связывает такие взгляды с трансгуманизмом – направлением, сторонники которого считают, что технологии позволят выйти за пределы нынешних биологических возможностей человека.

Это может предполагать создание нового вида или интеграцию человеческого организма с машинами. Сторонники таких концепций предполагают, что будущие формы жизни смогут превзойти людей по интеллекту, путешествовать по космосу и даже достичь бессмертия.

По мнению сенатора, проблема заключается в том, что подобные идеи поддерживают не только приверженцы научной фантастики, но и влиятельные предприниматели, имеющие ресурсы для воплощения своих замыслов.

Он также подчеркнул, что возможности искусственного интеллекта быстро расширяются. Такие системы работают с языком, решают сложные математические задачи и все лучше имитируют общение с людьми.

Среди примеров технологического сближения человека и машин Сандерс привел Neuralink Илона Маска, разрабатывающая мозговые импланты для взаимодействия с компьютерами.

Еще один пример – предложения по созданию компаний, которыми будут руководить агенты искусственного интеллекта, без обязательного участия людей в качестве акционеров.

Почему Сандерс требует ограничить развитие ИИ

Сенатор утверждает, что общество не обязательно поддерживает видение будущего, продвигаемое руководителями технологических компаний.

В своей колонке он привел данные опросов, согласно которым 91% американцев считают, что развитие искусственного интеллекта нуждается в предохранителях, 74% не доверяют руководителям ШИ-компаний, а 73% опасаются, что эта технология может угрожать выживанию человечества.

Сандерс также упомянул оговорку Папы Римского Льва XIV относительно технологического развития, которое может привести к обесцениванию человеческого достоинства. Понтифик предупреждал о риске превращения человека в набор данных, винтик в машине или товаре.

По словам сенатора, Питер Тиль в ответ назвал понтифика "агентом китайских коммунистов".

Какие ограничения предлагает сенатор

Сандерс призвал немедленно приостановить разработку передовых систем искусственного интеллекта и запретить создание искусственного надинтеллекта до появления механизмов, обеспечивающих безопасность этой технологии.

Речь идет о системах, интеллект которых будет превышать возможности любого человека и которые смогут действовать автономно вне человеческого контроля.

Сенатор сообщил, что вместе с конгрессменом Грегом Касаром продвигает законодательную инициативу, направленную на ограничение подобных разработок.

По убеждению Сандерса, решение о будущем искусственного интеллекта нельзя оставлять в руках небольшой группы миллиардеров, заинтересованных в деньгах и властях.

Он считает, что общество и демократические институты должны определять границы технологического развития, чтобы человек оставался в центре этого процесса.