Эмоциональный контроль на работе и в жизни: почему ученые предостерегают от "идеального" ИИ
ИИ все активнее распознает человеческие эмоции по мимике, голосу и физиологическим сигналам. Исследователь Лейденского университета Александра Прежан предупреждает: если такие системы станут безошибочными, это может создать новые риски для общества.
Об этом сообщает РБК-Украина со ссылкой на свежее диссертационное исследование ученой, опубликованное на сайте Лейденского университета.
Алгоритмы принимают решения за человека
Чтоб оценить последствия внедрения совершенных технологий распознавания чувств, Прежан смоделировала несколько сценариев грядущего.
В одном из них хирург приходит в больницу перед сложнейшей операцией, но система ERT фиксирует его эмоциональную нестабильность. Руководство отстраняет врача от работы.
Причина тревоги алгоритма не имела отношения к его профессионализму: врач переживает тяжелый развод и волнуется за ребенка.
Несмотря на то, что он сознательно оставил личные проблемы вне работы, технология расценила его состояние как риск выполнения служебных обязанностей.
В результате человек вынужден раскрывать и оправдывать перед работодателем тайны личной жизни, ведь система уже вынесла свой вердикт.
Изменение правил социального взаимодействия и утрата границ
За жизнь каждый человек исполняет множество социальных ролей: хирурга, отца или матери, партнера, друга или соседа. Обычно мы сами решаем какие границы и пласты своего внутреннего мира открывать в той или иной ситуации.
Использование ERT чревато уничтожением этих границ.
Что происходит?
Потеря конфиденциальности: если скрыть внутренние переживания становится невозможно, граница между частной и профессиональной жизнью окончательно разрушается.
Изменение ритуалов общения: публичное выступление или прощение должностного лица после трагедии могут оценивать не по содержанию, а по "неподдельности" печали по версии ИИ.
При этом врачи, полицейские или политики часто вынуждены сдерживать эмоции ради самозащиты в рамках профессиональной этики, что не делает их профессиональную обязанность менее искренним.
Смещение ориентиров: вместо веры словам и поступкам людей общество может начать ориентироваться исключительно на то, что об их состоянии "сообщает" технология.
Защита эмоциональной конфиденциальности и будущее регулирование
Сегодня Европейский акт об ИИ (EU AI Act) уже ограничивает использование технологий распознавания эмоций, однако преимущественно из-за их низкой точности на данном этапе.
Исследование Прежан направлено на долгосрочную перспективу: когда алгоритмы станут безошибочными, обществу понадобятся более сильные нравственные аргументы для ограничения их применения.
Технологии ERT не исключительно негативны - они могут помочь в ранней диагностике неврологических расстройств или способствовать людям, которые испытывают трудности с распознаванием эмоций.
Однако защита эмоциональной конфиденциальности, утверждает ученая, не только защита информации. Это сохранение социального пространства, в котором человек сам решает, как позиционировать себя и строить отношения с другими людьми.