ua en ru

95 сценариев катастрофы из-за ИИ: ученые объяснили, как человечество может потерять контроль

14:14 22.11.2026 Вс
2 мин
95 сценариев катастрофы из-за ИИ: ученые объяснили, как человечество может потерять контроль Ученые составили карту экзистенциальных рисков от ИИ (изображение: РБК-Украина)
Додати як бажане джерело в Google

Ученые систематизировали возможные сценарии, при которых развитие искусственного интеллекта может привести к глобальной катастрофе - от краха цивилизации до вымирания человечества.

Об этом информирует РБК-Украина со ссылкой на исследование AIxrisks .

От тихой потери контроля до роковых изобретений: восемь сценариев угроз ИИ

После проверки 3184 документов ученые отобрали 58 работ, в которых описан хотя бы один полный путь к экзистенциальному исходу - вымирание человечества, необратимому коллапсу цивилизации или закрепленной антиутопии .

Исследователи выделили 95 возможных сценариев, которые объединили в восемь категорий и сгруппировали по трем основным направлениям:

  • ИИ постепенно берет контроль над будущим. Эта группа включает сценарии, в которых власть захватывает одна неконтролируемая система, несколько независимых систем или группа скоординированных ИИ.

Также сюда входит постепенная передача полномочий искусственному интеллекту людьми, которая в конечном счете приводит к потере контроля. В общей сложности это направление охватывает 60 сценариев.

  • Власть оказывается в руках отдельных людей. Речь идет об установлении тоталитарного режима при поддержке ИИ и усилении экономического неравенства из-за вытеснения людей с рынка труда. В эту группу отнесли 1 сценарий.

  • ИИ усиливает разрушительные возможности людей. Это направление охватывает создание опасных изобретений с роковыми последствиями и автоматизированную войну под управлением искусственного интеллекта. В нем описаны 3 сценария.

Авторы отмечают: количество сценариев в каждой категории не свидетельствует о вероятности их наступления.

Кроме того, перечень не исчерпывающий: в будущем исследователи могут дополнить его новыми вариантами развития событий.

Читайте больше: Ошибка Google: ИИ заявил о вере в Бога и Лох-Несское чудовище

Как карта рисков поможет вовремя заметить опасность?

Для каждого семейства сценариев исследователи описали последовательность событий, которые могут привести к катастрофическим последствиям. Это позволяет экспертам оценивать, насколько реалистичен каждый этап, сравнивать разные взгляды на риски и определять, на что следует обратить внимание прежде всего.

95 сценариев катастрофы из-за ИИ: ученые объяснили, как человечество может потерять контроль
Ученые разложили риски ИИ на логические цепочки (скриншот: AIxrisks )

По словам соавтора исследования Питера Слэттери из MIT FutureTech, такой подход поможет отслеживать опасные процессы и замечать первые признаки угрозы.

Это также облегчит взаимодействие между разработчиками ИИ, регуляторами и специалистами по оценке рисков, чтобы они могли принять меры к тому, как ситуация станет критической.

Или читайте нас там, где вам удобно!
Больше по теме: