Microsoft готує захист від непередбачуваних ботів: ШІ більше не довіряють
Microsoft пропонує "поліцейських" для ШІ (колаж: РБК-Україна)
Microsoft представила нові інструменти для захисту бізнесу від внутрішніх загроз, які можуть створювати автономні ШІ-агенти.
Про це пише РБК-Україна з посиланням на Microsoft.
Чому передовим ШІ-моделям більше не довіряють?
Запуск нової системи захисту відбувся на тлі серії застережень від генерального директора Microsoft Сатьї Наделли. За його словами, бізнесу варто припинити сліпо довіряти запевненням ШІ-розробників про безпеку їхніх продуктів.
Наделла порівняв автономних агентів із "ненадійними інсайдерами або співробітниками, які мають доступ до критичних даних компанії, але можуть діяти всупереч її інтересам".
Керівниця напряму безпеки Microsoft Хайєт Галло підкреслила, що провідні мовні моделі "не є зловмисними за своєю природою, проте вони непередбачувані".
Вони оптимізовані для досягнення результату будь-якою ціною і не враховують корпоративні норми чи етичні межі - це часто призводить до обходу захисних правил.
Читайте більше: Епіцентр кібервійни: Україна увійшла до трійки найатакованіших держав у світі
Як працюють Guardian Agents і Project Perception?
Рішення Microsoft передбачає чіткий поділ між постачальниками штучного інтелекту та системами контролю за ним.
Інструмент Guardian Agents у рамках ініціативи Project Perception задіює спеціальні команди захисних алгоритмів (сині та зелені команди), які в режимі реального часу моніторять дії інших ШІ-агентів у мережі компанії.
Система оцінює динамічний рівень ризику кожної дії та може:
- обмежувати доступ ШІ-ботів до конфіденційних баз даних та інструментів;
- вимагати підтвердження від людини перед виконанням критичних операцій;
- автоматично заблокувати діяльність бота у разі виявлення аномальної поведінки.
Крім того, оновлений Microsoft Defender отримав функцію виявлення до 60 типів сторонніх ШІ-агентів, яких співробітники можуть приховано використовувати на роботі. Йдеться, зокрема, про Claude Code, Codex та OpenClaw.
Не пропустіть: Заборона кібератак та ядерної зброї: Microsoft ухвалила жорсткі правила для ШІ
Контексти та нові стандарти безпеки
Крок Microsoft відображає загальну тенденцію у IT-індустрії. Техногігант вже приєднався до нової платформи Open Agent Safety Platform від Nvidia, яку підтримали понад 100 лідерів галузі.
Ця система ізолює ШІ-агентів у безпечному середовищі на апаратному рівні та діє за принципом аварійного вимикача (kill switch).
У компанії переконані: відокремлення постачання інтелекту від контролю за ним є єдиним способом безпечного масштабування агентних систем у бізнесі.
