Емоційний контроль на роботі та у житті: чому вчені застерігають від "ідеального" ШІ
ШІ дедалі активніше розпізнає людські емоції за мімікою, голосом і фізіологічними сигналами. Дослідниця Лейденського університету Александра Прежан попереджає: якщо такі системи стануть безпомилковими, це може створити нові ризики для суспільства.
Про це інформує РБК-Україна з посиланням на свіже дисертаційне дослідження вченої, опубліковане на сайті Лейденського університету.
Алгоритми приймають рішення за людину
Щоб оцінити наслідки впровадження досконалих технологій розпізнавання емоцій, Прежан змоделювала кілька сценаріїв майбутнього.
В одному з них хірург приходить до лікарні перед складною операцією, але система ERT фіксує його емоційну нестабільність. Керівництво відстороняє лікаря від роботи.
Причина тривоги алгоритму не мала стосунку до його професіоналізму: лікар переживає важке розлучення та хвилюється за дитину.
Попри те, що він свідомо залишив особисті проблеми поза роботою, технологія розцінила його стан як ризик для виконання службових обов'язків.
У результаті людина змушена розкривати та виправдовувати перед працедавцем таємниці особистого життя, адже система вже винесла свій вердикт.
Зміна правил соціальної взаємодії та втрата меж
Упродовж життя кожна людина виконує безліч соціальних ролей: хірурга, батька чи матері, партнера, друга чи сусіда. Зазвичай ми самі вирішуємо, які межі та пласти свого внутрішнього світу відкривати в тій чи іншій ситуації.
Використання ERT загрожує знищенням цих меж.
Що відбувається?
Втрата приватності: якщо приховати внутрішні переживання стає неможливо, межа між приватним і професійним життям остаточно руйнується.
Зміна ритуалів спілкування: публічний виступ чи вибачення посадовця після трагедії можуть оцінювати не за змістом, а за "непідробністю" смутку за версією ШІ.
При цьому лікарі, поліцейські чи політики часто змушені стримувати емоції задля самозахисту у межах професійної етики, а це не робить їхній професійний обов'язок менш щирим.
Зсув орієнтирів: замість віри словам і вчинкам людей суспільство може почати орієнтуватися виключно на те, що про їхній стан "повідомляє" технологія.
Захист емоційної приватності та майбутнє регулювання
Сьогодні Європейський акт про ШІ (EU AI Act) вже обмежує використання технологій розпізнавання емоцій, проте переважно через їхню низьку точність на даному етапі.
Дослідження Прежан спрямоване на довгострокову перспективу: коли алгоритми стануть безпомилковими, суспільству знадобляться сильніші етичні аргументи для обмеження їхнього застосування.
Технології ERT не є виключно негативними - вони можуть допомогти у ранній діагностиці неврологічних розладів або сприяти людям, які мають труднощі з розпізнаванням емоцій.
Проте захист емоційної приватності, стверджує науковиця, не лише захист інформації. Це збереження соціального простору, у якому людина сама вирішує, як позиціонувати себе та будувати стосунки з іншими.