ШІ став загрозою для ядерної безпеки: що насторожило дослідників Стенфорда

Революція у пошуку вразливостей?

Модель Mythos наразі доступна лише обмеженій групі технологічних гігантів. Попри закритість, перші дані вказують на безпрецедентну ефективність ШІ у виявленні вразливостей "нульового дня" (zero-day) - критичних "дірок", для яких ще не створено надійного кіберзахисту.

Які переваги виділяють фахівці:

Швидкість та точність: Mythos розробляє методи експлуатації вразливостей менше ніж за добу з ймовірністю успіху 72,4%.

Реальні кейси: модель виявила помилку у коді системи OpenBSD, яка залишалася непоміченою 27 років. Інженери Mozilla також підтвердили, що ШІ знайшов "приголомшливу" кількість проблем у браузері Firefox.

"Це означає, що наступальні кіберможливості як держав, так і злочинних угруповань можуть зростати швидше, ніж здатність захисників виправляти помилки", - пояснюють вчені.

Ядерний арсенал як цифрова мішень

Ядерна зброя - складна мережа технологій: від самих боєголовок до систем раннього попередження та засобів зв'язку. Кожен елемент цієї системи залежить від цифрових протоколів. Експерти зазначають, що замість однієї "червоної кнопки" існують сотні "кібер-кнопок", втручання в які може призвести до катастрофи.

Що виділяють науковці:

Блокування наказу: президент ядерної держави може втратити зв’язок із силами стримування (наприклад, із підводними човнами, оснащеними ядерними боєголовками).

Фальшивий запуск: передача несанкціонованого наказу на пуск через злам каналів зв’язку.

Дезінформація: кібератака може створити ілюзію ворожого нападу, провокуючи ненавмисну ядерну відповідь.

Особливу небезпеку, вважають дослідники, становить інтеграція ядерних систем із системами звичайних озброєнь. Злам останніх може бути помилково інтерпретований як замах на стратегічний арсенал держави.

Ставка на майбутнє?

Сьогодні безпека світу тримається на трьох припущеннях, кожне з яких з появою Claude Mythos піддається сумнівам:

Відсутність прогалин: вважається, що системи управління чисті, хоча їхня складність не дозволяє стверджувати це, а дискурс насправді триває ще з 1980-х років.

Перевага оборони: припускається, що захист встигатиме за новими інструментами зламу.

Фактор удачі: ми сподіваємося, що ворог просто не знайде існуючі вразливості першим.

"Автоматизація кібератак за допомогою великих мовних моделей робить ядерну політику все менш прогнозованою. Вибір на користь ядерного стримування тепер фактично є ставкою на те, що удача залишатиметься на боці людства і надалі, попри цифрову вразливість систем", - резюмували дослідники.