ИИ учится быть человеком, а люди - роботами: ученые объяснили опасный эффект
Регулярное общение с ИИ может незаметно изменять, как человек воспринимает себя и общается с другими. Пытаясь получить лучший ответ от чат-бота, пользователи начинают подстраивать свой язык под алгоритмы.
Об этом пишет РБК-Украина, опираясь на научное исследование, опубликованное в журнале AI & Society.
Что такое эффект robotoid humanness?
Ученые объяснили: в то время как разработчики пытаются сделать чат-ботов более человечными (обучают их имитировать жесты, эмоции и разговорный язык), возникает обратный эффект - человек начинает копировать поведение работа.
Ученые назвали этот феномен "роботоподобной человечностью" (robotoid humanness).
Почему люди подстраиваются под алгоритмы?
В отличие от реальных людей, чьи реакции во время общения непредсказуемы, ИИ дает предполагаемые и алгоритмические ответы.
Пытаясь эффективно взаимодействовать с ботом, пользователи подсознательно упрощают свой язык, а именно:
- Скрывают собственные эмоции и странности.
- Избегают непредсказуемых формулировок.
- Используют шаблонные фразы, которые легче обрабатывать алгоритмы.
Со временем такая адаптация может выходить за пределы чата и влиять на то, как человек выражает свои мысли в реальной жизни.
Последствия для человеческой индивидуальности
Ученые предостерегают, что чрезмерное использование ИИ в сфере обслуживания, ритейла и здравоохранения сужает диапазон чисто человеческих проявлений.
Мозг подсознательно отражает коммуникационные модели, подкрепленные алгоритмом.
Поскольку исследование является теоретическим и базируется на анализе предварительных взаимодействий людей с работами, ученые отмечают необходимость проведения дальнейших экспериментов.
Они призывают бизнес использовать ИИ нравственно, чтобы польза от технологий не уничтожала человеческую уникальность.