ИИ стал угрозой для ядерной безопасности: что насторожило исследователей Стэнфорда

Революция в поиске уязвимостей?

Модель Mythos пока доступна только ограниченной группе технологических гигантов. Несмотря на закрытость, первые данные указывают на беспрецедентную эффективность ИИ в выявлении уязвимостей "нулевого дня" (zero-day) - критических "дыр", для которых еще не создана надежная киберзащита.

Какие преимущества выделяют специалисты:

Скорость и точность: Mythos разрабатывает методы эксплуатации уязвимостей менее чем за сутки с вероятностью успеха 72,4%.

Реальные кейсы: модель обнаружила ошибку в коде системы OpenBSD, которая оставалась незамеченной 27 лет. Инженеры Mozilla также подтвердили, что ИИ нашел "потрясающее" количество проблем в браузере Firefox.

"Это означает, что наступательные кибервозможности как государств, так и преступных группировок могут расти быстрее, чем способность защитников исправлять ошибки", - объясняют ученые.

Ядерный арсенал как цифровая мишень

Ядерное оружие - сложная сеть технологий: от самих боеголовок до систем раннего предупреждения и средств связи. Каждый элемент этой системы зависит от цифровых протоколов. Эксперты отмечают, что вместо одной "красной кнопки" существуют сотни "кибер-кнопок", вмешательство в которые может привести к катастрофе.

Что выделяют ученые:

Блокировка приказа: президент ядерной державы может потерять связь с силами сдерживания (например, с подводными лодками, оснащенными ядерными боеголовками).

Фальшивый запуск: передача несанкционированного приказа на пуск через взлом каналов связи.

Дезинформация: кибератака может создать иллюзию вражеского нападения, провоцируя непреднамеренный ядерный ответ.

Особую опасность, считают исследователи, представляет интеграция ядерных систем с системами обычных вооружений. Взлом последних может быть ошибочно интерпретирован как покушение на стратегический арсенал государства.

Ставка на будущее?

Сегодня безопасность мира держится на трех предположениях, каждое из которых с появлением Claude Mythos подвергается сомнениям:

Отсутствие пробелов: считается, что системы управления чистые, хотя их сложность не позволяет утверждать это, а дискурс на самом деле продолжается еще с 1980-х годов.

Преимущество обороны: предполагается, что защита будет успевать за новыми инструментами взлома.

Фактор удачи: мы надеемся, что враг просто не найдет существующие уязвимости первым.

"Автоматизация кибератак с помощью больших языковых моделей делает ядерную политику все менее прогнозируемой. Выбор в пользу ядерного сдерживания теперь фактически является ставкой на то, что удача будет оставаться на стороне человечества и в дальнейшем, несмотря на цифровую уязвимость систем", - резюмировали исследователи.