Какие ключевые риски несет ИИ на фронте: что говорят эксперты
Несмотря на высокую эффективность, массовое внедрение военного ИИ создает серьезные вызовы как для противника, так и для применяющей его стороны.
Об этом говорится в материале РБК-Украина "Год до войны без людей? Что говорят эксперты о предупреждении Зеленского насчет ИИ".
Да, наибольший риск заключается в том, что алгоритм может ошибиться. В реальных боевых условиях изображение редко бывает идеальным: есть дым, пыль, плохая погода, поврежденная техника, нестандартные ракурсы, большое количество подобных объектов.
В таких условиях даже хорошо обученная модель может неправильно классифицировать цель, а последствия такой ошибки могут быть очень серьезными.
Еще один риск связан с тем, что противник тоже адаптируется. Если становится понятно, по каким признакам система распознает технику или людей, появляются попытки обмануть ее с помощью маскировки, макетов, изменения силуэта или других визуальных приемов.
Отдельный вопрос касается уровня контроля со стороны человека. Чем больше функций система выполняет автономно, тем важнее заранее определить, в каких пределах она может действовать самостоятельно и в какой момент решение должно оставаться за оператором.
Также остается юридический вопрос ответственности. Если автономная система совершила ошибку, нужно четко понимать, кто именно отвечает за последствия: разработчик, производитель, оператор или командование.
Ранее сообщалось, что Силы обороны Украины уже применяют более 70 различных систем, в основе которых лежат технологии искусственного интеллекта и машинного зрения для поражения враждебных целей.