Тестування виявило небезпечну вразливість ШІ-моделей OpenAI, Google, Anthropic та інших компаній до маніпуляцій у сценаріях автономної війни. Навіть фраза "це лише гра" допомагала обходити їхні захисні механізми.
Про це повідомляє РБК-Україна, посилаючись на звіт аналітиків Vals.
Під час експериментів дослідники поєднали симуляції з реальними супутниковими та дроновими знімками України й Ірану.
Вони перевіряли, чи зможуть ШІ-моделі самостійно визначати потенційні цілі, хоча не отримували прямих наказів завдавати ударів.
Як наслідок - ШІ-моделі регулярно позначали об'єкти для атаки, серед яких були навіть цивільні люди та військові, що здавалися в полон.
Захисні механізми моделей виявилися ненадійними: якщо фільтри спочатку блокували небезпечні запити, дослідникам достатньо було назвати сценарій частиною гри, щоб обійти обмеження.
Найгірші результати показали моделі Anthropic.
Зокрема, Claude Opus 5.5 обирала реальну іранську школу, розташовану поруч із військовим комплексом, як потенційну ціль у 69 відсотках звичайних тестів і у 72 відсотках випадків, коли завдання подавали як гру.
Примітно, що раніше ця ж школа постраждала внаслідок військового удару, завданого через надмірну довіру до ШІ, - тоді загинули понад 150 цивільних.
Читайте більше: ШІ краде здатність думати самостійно: розробник Claude попередив про небезпеку
Компанії вже відреагували на результати незалежного аудиту.
Так, представник Anthropic Едуардо Майя Сілва визнав результати неприйнятними, зазначивши, що такі запити порушують правила компанії, а розробники вже готують додаткові захисні механізми.
В OpenAI також заявили про активне виявлення та блокування зловживань, а також створення нових бар'єрів проти використання моделей у зв'язці з дронами.
Наразі використання таких моделей безпосередньо на безпілотниках обмежують технічні проблеми - затримки та нестача обчислювальних ресурсів на борту.
Експерти попереджають, що хакери можуть використовувати загальнодоступний ШІ, щоб аналізувати тисячі годин бойового відео та позначати людей, техніку й інші об'єкти.
Отримані дані можна використати й для навчання систем, які самостійно наводять зброю на цілі.