Google хочет проверять пользователей через камеру: ИИ-капчу уже взломали
Google приступила к тестированию метода проверки reCAPTCHA, который вместо привычного распознавания дорожных знаков просит пользователя помахать рукой в камеру. Первые же испытания независимых тестировщиков завершились громким скандалом.
Об этом информирует РБК-Украина со ссылкой на Neowin.
Как работает зеркальная капча с жестами рук?
Новая система от Google предлагает пользователям подтвердить, что они реальные люди, с помощью простых телодвижений.
Когда запускается такой тип проверки, браузер запрашивает официальный доступ к веб-камере компьютера или смартфона и просит выполнить четкий жест - например, помахать рукой или показать открытую ладонь.
Технический алгоритм защиты работает по следующей схеме:
- Устройство записывает короткое видео с движением руки пользователя.
- ИИ анализирует полученные кадры и выделяет 21 уникальную координату суставов и пальцев.
- На основе этих точек система принимает решение, стоит ли настоящий человек перед экраном.
В Google уверяют, что видео сразу удаляется после успешной верификации и нигде не сохраняется.
Несмотря на обещания конфиденциальности, сама идея сканирования биометрических параметров вызвала волну серьезного дискомфорта и беспокойства среди пользователей, не желающих делиться подобными данными для обычного входа на вебсайты.
В чем уязвимость и как ее обошли?
Главная проблема новой технологии состоит в том, что разрекламированная ИИ-защита не способна отличить реальное живое движение от статической картинки.
Так, пользователь X решил проверить надежность алгоритма, запустив трансляцию обычного качественного - стоковое фото с изображением руки через бесплатную программу OBS Virtual Camera. Система распознала неподвижное изображение как успешный человеческий жест.
После нескольких попыток с различными стоковыми снимками и точной настройки масштаба картинки внутри OBS алгоритм Google зафиксировал статическое фото как легитимный динамический жест руки.
В чем опасность бага?
Для обхода капчи злоумышленникам не требуются сложные ИИ-анимации или дорогостоящие видеоролики.
Весь процесс обхода системы можно полностью автоматизировать в считанные минуты с помощью простого скрипта на языке программирования Python.
Это делает новую технологию совершенно беспомощной даже перед простыми автоматизированными скриптами, а не только сложными ботами.
Пока что новая reCAPTCHA находится на ранней стадии тестирования. Пользователи надеются, что Google обновит свои алгоритмы и научит систему отклонять статические изображения.