ИИ начал проверять людей: как технология выявляет скрытые предубеждения
Исследователи из Корнелльского университета разработали инновационный инструмент на базе искусственного интеллекта, который не принимает решение за человека, а наоборот - анализирует его выбор на наличие скрытых предубеждений и логических противоречий.
Об этом сообщает РБК-Украина со ссылкой на научное исследование, опубликованное в ACM Digital Library.
Проблема субъективности
Разработка началась в лаборатории Эйба Дэвиса, ассистента профессора компьютерных наук Чао Чжана. Исследователь столкнулся с проблемой оценки сотен творческих проектов своих студентов. Несмотря на четкие критерии, ассистенты часто демонстрировали разные стандарты оценивания.
"Использование технологий для того, чтобы они принимали решения за нас, часто является рискованным. Мы используем технологии, чтобы помочь себе принимать лучшие решения", - объясняет Дэвис.
"Основная идея базируется на том, что люди значительно лучше справляются с прямым сравнением двух вариантов, чем с субъективной оценкой по шкале от 1 до 10. ИИ же использует этот принцип, чтобы выстроить идеальную иерархию выбора", - добавляет исследователь.
Как работает алгоритм "проверки" человека?
Процесс состоит из нескольких этапов, где ИИ выступает в роли "придирчивого аудитора".
Чем занимается нейросеть:
Определение ценностей - пользователь сначала оценивает важность различных критериев (например, цена, надежность и экономность для авто).
Парное сравнение: ИИ предлагает выбрать лучший вариант в нескольких парах объектов, чтобы "уловить" реальные приоритеты человека.
Поиск противоречий: если выбор человека не совпадает с его же заявленными ценностями, инструмент подсвечивает эти несоответствия.
Например, если человек утверждает, что для него главное - надежность, однако постоянно выбирает красные автомобили, игнорируя технические характеристики, ИИ укажет на это подсознательное предубеждение относительно цвета. Пользователь будет вынужден либо изменить рейтинг, либо добавить цвет как официальный критерий выбора.
Результаты экспериментов и этические аспекты
Исследователи протестировали систему в двух кейсах:
Оценка короткометражных фильмов: участники эксперимента отметили, что инструмент помог им перейти от чисто эмоциональных суждений к применению конкретных критериев качества.
Академическое оценивание: четыре ассистента ранжировали студенческие проекты, показав высокую согласованность результатов - это доказывает точность и повторяемость метода.
Важной функцией является возможность выключить ИИ в случаях, где его использование может быть этически чувствительным.
"Одна из важнейших частей этого проекта - не использовать ИИ для принятия решений за нас, а использовать ИИ, чтобы помочь нам обдумать то, чего мы хотим", - подчеркивает профессор Чао Чжан.