Вчені "оживили" померлих за допомогою ШІ: чим це небезпечно

Експеримент у Zoom: як ШІ оживляє спогади в реальному часі

У пілотному дослідженні взяли участь 16 людей віком від 22 до 50 років, які втратили близького родича або друга.

Під час сесії у Zoom оператори завантажували біографічні дані, щоденники, пости із соцмереж та старі текстові повідомлення покійних у велику мовну модель (LLM), створюючи цифрового клона у реальному часі.

Учасники тестували дві версії ШІ: одна розмовляла від третьої особи ("Вона любила ходити з вами на пляж"), а інша - від першої особи як "воскресла" копія ("Я пам'ятаю, як ми разом ходили на пляж").

Головні відкриття та вподобання користувачів:

Пріоритет реінкарнації. Абсолютно всі учасники віддали перевагу спілкуванню від першої особи. Вони хотіли бачити перед собою саме образ близького, а не його віртуального представника.

Важливість емоційного тону. Користувачі виявилися лояльними до дрібних помилок нейромережі (галюцинацій), проте критично реагували на неправильний стиль мовлення, діалект або нетипові для померлого ласкаві слова. Одне помилкове звернення ("чемпіоне" замість звичного імені) ледь не зірвало сесію.

Формат повідомлень. Люди краще сприймали короткі речення з використанням емодзі, ніж довгі розлогі параграфи, які зазвичай генерує стандартний штучний інтелект.

Всі учасники експерименту підтвердили, що скористалися б такою технологією знову, оскільки відчули полегшення та емоційне закриття гештальту.

Комерційна реальність та приховані загрози deathbots

Створення цифрових копій померлих швидко перетворюється з наукової фантастики на прибутковий бізнес.

Платформи на кшталт Project December або Séance AI вже пропонують текстових ШІ-привидів. Інші стартапи, як-от HereAfterAI, створюють мультимедійних клонів на основі зажиттєвих голосових записів і фотографій користувача.

Існують навіть VR-проєкти, які дозволяють буквально прогулятися поруч із голограмою померлого.

Попри очевидну терапевтичну користь для дорослих, автори дослідження застерігають від неконтрольованого використання таких інструментів.

Чому технологія потребує жорсткого контролю:

Страх за близьких. Хоча самі учасники позитивно оцінили досвід, майже всі вони висловили побоювання щодо того, як подібні технології можуть вплинути на психіку членів родин, що переживають горе.

Загроза для дітей. Перший автор роботи, Джек Меннінг, який прийшов у цю галузь після втрати рідної сестри в дитинстві, наголошує на небезпеці використання технології без нагляду.

"Уявіть 11-річного мене, який пізно вночі спілкується з ChatGPT, що видає себе за мою померлу сестру. Це дуже лякаюча думка", - підкреслює дослідник.

Необхідність стандартів. Дослідники вже залучили професійних психотерапевтів та фахівців із ментального здоров'я до наступного етапу тестів, щоб розробити чіткі правила проєктування ШІ-привидів.

Ціль - мінімізувати ризики розвитку патологічного смутку чи психологічної залежності від віртуального образу.