Ученые "оживили" умерших с помощью ИИ: чем это опасно

Эксперимент в Zoom: как ИИ оживляет воспоминания в реальном времени

В пилотном исследовании приняли участие 16 человек в возрасте от 22 до 50 лет, потерявших близкого родственника или друга.

Во время сессии в Zoom операторы загружали биографические данные, дневники, посты из соцсетей и старые текстовые сообщения усопших в большую языковую модель (LLM), создавая цифрового клона в реальном времени.

Участники тестировали две версии ИИ: одна разговаривала от третьего лица ("Она любила ходить с вами на пляж"), а другая - от первого лица как "воскресшая" копия ("Я помню, как мы вместе ходили на пляж").

Главные открытия и предпочтения пользователей:

Приоритет реинкарнации. Абсолютно все участники предпочли общение от первого лица. Они хотели видеть перед собой образ близкого, а не его виртуального представителя.

Важность эмоционального тона. Пользователи оказались лояльны к мелким ошибкам нейросети (галюцинаций), однако критически реагировали на неправильный стиль речи, диалект или нетипичные для умершего ласковые слова. Одно ошибочное обращение ("чемпионе" вместо привычного имени) чуть не сорвало сессию.

Формат сообщений. Люди лучше воспринимали короткие предложения с использованием эмодзы, чем длинные раскидистые параграфы, которые обычно генерирует стандартный искусственный интеллект.

Все участники эксперимента подтвердили, что воспользовались такой технологией снова, поскольку почувствовали облегчение и эмоциональное закрытие гештальта.

Коммерческая реальность и скрытые угрозы deathbots

Создание цифровых копий умерших быстро превращается из научной фантастики в прибыльный бизнес.

Платформы типа Project December или Séance AI уже предлагают текстовых ИИ-призраков. Другие стартапы, такие как HereAfterAI, создают мультимедийные клоны на основе зажизненных голосовых записей и фотографий пользователя.

Есть даже VR-проекты, которые разрешают практически прогуляться рядом с голограммой погибшего.

Несмотря на очевидную терапевтическую пользу для взрослых, авторы исследования предостерегают от неконтролируемого использования таких инструментов.

Почему технология требует жесткого контроля:

Страх за близких. Хотя сами участники положительно оценили опыт, почти все они выразили опасение, как подобные технологии могут повлиять на психику других членов их семей.

Угроза для детей. Первый автор работы Джек Мэннинг, пришедший в эту отрасль после потери родной сестры в детстве, подчеркивает опасность использования технологии без присмотра.

"Представьте 11-летнего меня, который поздно ночью общается с ChatGPT, который выдает себя за мою умершую сестру. Это очень пугающая мысль", - подчеркивает исследователь.

Необходимость стандартов . Исследователи уже привлекли профессиональных психотерапевтов и специалистов по ментальному здоровью в следующий этап тестов, чтобы разработать четкие правила проектирования ИИ-призраков.

Цель - минимизировать риски развития патологической печали или психологической зависимости от виртуального образа.