ШІ навчився самостійно поширюватися: які дешеві смарт-пристрої у небезпеці
Малі ШІ-моделі можуть уже за кілька місяців навчитися самостійно поширюватися між розумними пристроями. Експерименти показали, що вони здатні автономно запускатися на звичайних Android ТБ-приставках і побутовій техніці.
Про це пише РБК-Україна, посилаючись на дослідження Anthropic.
Як ШІ "захоплює" дешеву техніку?
На відміну від звичайних вірусів, ШІ-хробак здатний самостійно вивчати незнайомі пристрої, адаптуватися до нової операційної системи та розгортати необхідні програми без участі людини.
Головною мішенню таких атак є пристрої інтернету речей, зокрема дешеві Android-ТБ-приставки, смарт-холодильники, пилососи та камери спостереження. Вони постійно підключені до мережі й мають мінімальний базовий захист.
Під час експерименту дослідники об'єднали 15 дешевих ТБ-приставок із 4 гігабайтами оперативної пам'яті в єдину мережу. Модель розміром 26 мільярдів параметрів змогла успішно запуститися та працювати на цьому обладнанні.
Етапи автономного поширення та еволюція вірусів
Процес самовідтворення ШІ-хробака складається з чотирьох основних кроків:
- Пошук незахищених цілей у мережі;
- Отримання доступу до пристрою;
- Розгортання та налаштування середовища для штучного інтелекту;
- Подальше сканування мережі для наступного стрибка.
Під час поширення ШІ-моделі здатності до так званої еволюції. При кожному наступному зараженні батьківська модель передає дочірній свої нотатки про помилки та вдалі рішення.
Завдяки цьому відсоток успішних розгортань системи зростає з 45 відсотків у першому поколінні до 84 відсотків у наступних.
Читайте більше: Перетворює настільні Mac на суперкомп'ютер: Meta відкрила ШІ Muse Spark Open
Чим ШІ-хробак відрізняється від звичайних вірусів?
Традиційні ботнети створюються під конкретні типи пристроїв і ОС.
ШІ-хробак не прив'язаний до чіткого коду та може самостійно підбирати потрібні версії програм для абсолютно різного заліза - від мікрокомп'ютерів Jetson Nano до ПК на базі Mac.
При цьому швидкість поширення такого вірусу вважається низькою. Подвоєння кількості заражених пристроїв займає від кількох днів до тижня.
Зупинити таку мережу вкрай важко через відсутність єдиного командного центру.
Захист та заходи протидії
Фахівці зазначають, що виявити такі загрози можна за характерними аномаліями у мережевому трафіку. Передача багатьох гігабайтів ваги ШІ-моделей між побутовими пристроями створює нетипове навантаження на канали зв'язку.
Основними межами захисту є
- обмеження доступу заражених пристроїв через провайдерів,
- закриття відкритих портів,
- відмова виробників від використання стандартних паролів у смарт-техніці.