Ученые систематизировали возможные сценарии, при которых развитие искусственного интеллекта может привести к глобальной катастрофе - от краха цивилизации до вымирания человечества.
Об этом информирует РБК-Украина со ссылкой на исследование AIxrisks .
После проверки 3184 документов ученые отобрали 58 работ, в которых описан хотя бы один полный путь к экзистенциальному исходу - вымирание человечества, необратимому коллапсу цивилизации или закрепленной антиутопии .
Исследователи выделили 95 возможных сценариев, которые объединили в восемь категорий и сгруппировали по трем основным направлениям:
ИИ постепенно берет контроль над будущим. Эта группа включает сценарии, в которых власть захватывает одна неконтролируемая система, несколько независимых систем или группа скоординированных ИИ.
Также сюда входит постепенная передача полномочий искусственному интеллекту людьми, которая в конечном счете приводит к потере контроля. В общей сложности это направление охватывает 60 сценариев.
Власть оказывается в руках отдельных людей. Речь идет об установлении тоталитарного режима при поддержке ИИ и усилении экономического неравенства из-за вытеснения людей с рынка труда. В эту группу отнесли 1 сценарий.
ИИ усиливает разрушительные возможности людей. Это направление охватывает создание опасных изобретений с роковыми последствиями и автоматизированную войну под управлением искусственного интеллекта. В нем описаны 3 сценария.
Авторы отмечают: количество сценариев в каждой категории не свидетельствует о вероятности их наступления.
Кроме того, перечень не исчерпывающий: в будущем исследователи могут дополнить его новыми вариантами развития событий.
Читайте больше: Ошибка Google: ИИ заявил о вере в Бога и Лох-Несское чудовище
Для каждого семейства сценариев исследователи описали последовательность событий, которые могут привести к катастрофическим последствиям. Это позволяет экспертам оценивать, насколько реалистичен каждый этап, сравнивать разные взгляды на риски и определять, на что следует обратить внимание прежде всего.
По словам соавтора исследования Питера Слэттери из MIT FutureTech, такой подход поможет отслеживать опасные процессы и замечать первые признаки угрозы.
Это также облегчит взаимодействие между разработчиками ИИ, регуляторами и специалистами по оценке рисков, чтобы они могли принять меры к тому, как ситуация станет критической.