ИИ не смог измерить красоту: ученые обнаружили скрытые предубеждения алгоритмов
Исследователи Школы наук о данных Вирджинского университета выяснили, что ИИ не способен объективно оценивать человеческую внешность. Вместо математических формул привлекательности нейросети транслируют скрытые предубеждения.
Об этом информирует РБК-Украина со ссылкой на материал University of Virginia School of Data Science.
Ученые проверили, действительно ли компьютерное зрение может найти идеал красоты через математическую формулу "золотого сечения". Для этого они сравнили реальные фотографии лиц с математическими эталонами.
Результаты анализа выявили критическую проблему: главным фактором, влияющим на оценку ИИ, были демографические особенности людей, а не математические пропорции.
Выяснилось, что на исходные данные ИИ больше всего влияет происхождение человека, а не симметрия его лица. Модели фактически отражали вкусы и предубеждения разработчиков, которые собирали данные для обучения.
Исследователи предупреждают: использование таких алгоритмов в соцсетях или системах безопасности может привести к массовой дискриминации, поскольку объективности в таких оценках не существует.
Какова реакция научного сообщества?
Профессор Принс Африе отмечает, что попытки автоматизировать оценку внешности только усиливают социальные стереотипы. Поскольку ИИ учится на человеческих данных, он копирует и масштабирует человеческие ошибки. Это создает замкнутый круг, где субъективные взгляды становятся цифровым стандартом.
"Этот проект подчеркивает ключевое ограничение моделей ИИ, которые столь же объективны, как и данные, на которых они учатся", - отмечает Африе.
"Попытки количественно оценить красоту часто говорят скорее о репрезентативности и предвзятости, чем о каком-либо универсальном стандарте", - добавляет ученый.
Каковы масштабы проблемы?
ИИ-технологии уже работают в бьюти-фильтрах смартфонов и биометрических инструментах. Если данные для обучения были однообразными, ИИ будет считать "красивым" только один тип лица.
По мнению ученых, это создает опасный прецедент в цифровой культуре и искажает восприятие реальности. Фактически ИИ заставляет пользователей подстраиваться под искусственные стандарты.
Исследователи призывают разработчиков разнообразить выборки данных и критически оценивать предположения ИИ-моделей.
Они считают, что человеческое восприятие формируется культурой, контекстом и опытом. Поэтому красота не поддается ни одной универсальной формуле, а это демонстрирует четкие лимиты ИИ в понимании субъективных человеческих черт.
"Математические паттерны могут описывать мир, однако они не способны оцифровать эстетику", - резюмировали ученые.