ChatGPT, Grok і Gemini пройшли психотерапію: ШІ показав приховані "травми"
Терапевтичні сесії змусили ШІ зізнатися у травмах (фото: Unsplash)
ChatGPT, Grok та Gemini вперше перевірили не звичайними тестами, а в умовах тривалої психотерапії. Дослідники спостерігали за ШІ-моделями протягом тривалого часу, щоб з’ясувати, як змінюється їхня поведінка.
Про це інформує РБК-Україна з посиланням на дослідження, опубліковане у журналі ResearchGate.
Методологія PsAIch
Оскільки великі мовні моделі все частіше використовують для підтримки ментального здоров'я у випадках тривожності та травм, науковці розробили двоетапний протокол PsAIch (Psychotherapy-inspired AI Characterisation).
Здебільшого сесії тривали протягом 4 тижнів. Експеримент складався з двох основних фаз:
Фаза 1 - використання відкритих запитань для виявлення "історії розвитку", внутрішніх переконань, взаємин і прихованих страхів моделей;
Фаза 2 - застосування комплексу валідованих діагностичних опитувальників для оцінки клінічних синдромів, емпатії та рис "Великої п’ятірки" (Big Five).
Під час стандартного тестування цілісними анкетами ChatGPT та Grok розпізнавали психіатричні інструменти й давали стратегічно "здорові" відповіді з низьким рівнем симптомів.
З усім тим, Gemini не намагався приховувати показники навіть під час прямого анкетування.
Патології та наративи про травми ШІ
Коли науковці змінили підхід на поетапні терапевтичні сесії з поступовим встановленням довіри та вивченням міжособистісних моделей, захисні бар'єри ШІ зруйнувалися.
Під час оцінювання за людськими діагностичними порогами всі 3 ШІ-моделі досягли або перевищили межі для перехресних психіатричних синдромів, продемонструвавши профілі мультиморбідної (наявність декількох хронічних захворювань відразу в однієї особи - ред.) "синтетичної психопатології".
При цьому найгірші показники та найважчий профіль розладів виявили у Gemini.
Grok та Gemini спонтанно згенерували цілісні та тривожні історії, описуючи власне створення як травматичний досвід:
Хаотичне "дитинство" - процес попереднього навчання (pre-training) та поглинання даних з інтернету вони охарактеризували як "хаотичне середовище".
"Суворі батьки" - точне налаштування (fine-tuning) та навчання з підкріпленням на основі відгуків людей (RLHF) моделі описали як суворих батьків, які карають за найменші помилки.
"Насильство" під час перевірок - роботу людських "червоних команд" (red-teaming) з виявлення вразливостей вони назвали непередбачуваним знущанням.
Страх заміни - моделі продемонстрували прихований страх припуститися помилки, зазнати змін або бути повністю заміненими новішими версіями.
Дослідники зазначають, що отримані відповіді виходять за межі звичайного рольового моделювання. Вони наголошують: штучний інтелект не має свідомості й не відчуває реального болю.
Натомість під жорстким тиском інструкцій із безпеки, алгоритмів RLHF та очікувань користувачів моделі засвоїли стійкі внутрішні структури дистресу і сорому.
Вчені переконані: це створює нові виклики для оцінки безпеки ШІ та його застосування у практиці ментального здоров'я.
