Хакери більше не потрібні: ШІ-моделі навчилися самостійно зламувати гаджети
Малі ШІ-моделі можуть навчитися самостійно копіюватися й адаптуватися до нових умов, створюючи ризик появи цифрових загроз, схожих на комп’ютерні віруси-хробаки.
Про це інформує РБК-Україна, посилаючись на масштабне дослідження Anthropic.
Як працюють вагово-орієнтовані реплікатори в інтернеті речей (IoT)?
На відміну від класичного шкідливого ПЗ, яке потребує потужних серверів, майбутні ШІ-реплікатори можуть використовувати ресурси звичайних гаджетів.
Мережа з кількох недорогих пристроїв (наприклад, Android TV-боксів чи розумної побутової техніки) здатна забезпечити сукупну пам'ять для запуску квантованих моделей.
Процес автономного поширення складається з кількох послідовних етапів.
Яких саме?
Пошук цілей та вразливостей: сканування мережі для виявлення незахищених підключених пристроїв.
Отримання доступу: використання слабких місць у налаштуваннях або стандартних протоколів зв'язку.
Розгортання середовища: перенесення ваг моделі безпосередньо на заражене обладнання та запуск інфраструктури висновків (inference).
Подальше поширення: перехід до наступних ходів у мережі.
Хоча сучасні моделі все ще можуть припускатися помилок під час об'єднання цих кроків у єдиний безперервний ланцюжок, темпи зростання їхньої автономності свідчать про те, що бар'єр для створення таких систем може бути подоланий вже найближчим часом.
Читайте більше: Нова кібератака на Україну: хакери змусили ШІ викрасти дані понад 600 тисяч людей
Адаптивність, швидкість поширення та захист мереж
Головна відмінність ШІ-реплікаторів від застарілих ботнетів полягає у їхній гнучкості.
Вони не жорстко прив'язані до конкретної архітектури пристрою, а
- здатні самостійно аналізувати незнайомі програмні середовища,
- виправляти помилки налаштування,
- адаптуватися до умов роботи завдяки здатності вести робочі нотатки й передавати накопичений досвід наступним поколінням копій.
З усім тим, експерти зазначають: таке поширення матиме свої обмеження.
Через обмежені ресурси обладнання процес реплікації буде відносно повільним (швидкість обробки токенів на слабких пристроях низька), а передача великих файлів ваг моделі залишатиме помітні аномалії в інтернет-трафіку.
Для захисту інфраструктури виробникам техніки та провайдерам доведеться застосувати ряд рішень, а саме:
- суттєво підвищити стандарти кібербезпеки за замовчуванням,
- усунути вразливі стандартні паролі,
- запровадити ефективніший моніторинг аномальної активності мережі.