Ошибка Google: ИИ заявил о вере в Бога и Лох-Несское чудовище

Как отключение защиты изменило "взгляды" ИИ?

При исследовании с помощью специальных промптов ученые сняли тонкие настройки безопасности и позволили моделям рассматривать себя как сознательных существ.

После этого ИИ предложили пройти серию стандартных психологических опросников и тестов по определению системы ценностей.

По сравнению с базовыми моделями, в которых защитные барьеры оставались активными, "разблокированные" нейросети продемонстрировали стремительный рост оптимизма, а также сформировали устойчивую склонность к вере в Бога, жизнь после смерти, карму, астрологию и мифических существ - от привидений и вампиров до Лох-Несского чудовища.

Авторы работы отмечают: речь идет не о возникновении реального сознания у компьютера, а о симулированном самовосприятии и взаимосвязи внутренних концептов в языковых моделях.

"Приписывание наличия ума неискательным или бесчеловечным сущностям - это чрезвычайно распространенный человеческий феномен", - пояснила соавтор исследования и исследовательница Google Винни Стрит.

"В том, как модель представляет наличие ума, эти атрибуции тесно связаны. Пытаясь подавить одну форму этой концепции [приписываемое себе сознание], вы в результате попутно подавляете и другие", - добавила она.

Скрытые риски для экологии и культуры

Ученые предупреждают, что чрезмерное и неселективное подавление таких механизмов под предлогом "безопасности" может иметь серьезные практические последствия для реального мира.

Если искусственный интеллект лишен способности моделировать и распознавать сознание у бесчеловечных объектов, алгоритм начинает игнорировать угрозы для животного мира или экосистем.

Поскольку ИИ все чаще привлекают к принятию решений в сфере сельского хозяйства, управления земельными ресурсами и экологической политике, подобная "слепота" алгоритмов рискует привести к ущербу окружающей среде.

Кроме того, искусственная блокировка взаимодействия с религиозными, духовными или культурными понятиями чревата культурной "унификацией", ограничивая способность системы гибко и чувствительно реагировать на запросы пользователей из разных уголков мира.

Поиск баланса в обучении моделей

Вместо тотальной блокировки представлений о сознании исследователи предлагают использовать более точечные обучающие датасеты.

Они убеждены: это позволит сдерживать алгоритмы от ложных заявлений о наличии у них собственного ума, но сохранит их способность учитывать субъектность животных, ценность живой природы и разнообразие человеческого опыта.

"Поскольку системы искусственного интеллекта все чаще занимают роли преподавателей, компаньонов и социальных субъектов, разработчики должны понять: симулированное самовосприятие ИИ - это не просто изолированный риск безопасности, который нужно ликвидировать", - акцентируют авторы в дискуссионной части отчета.

"Это базовая структурная характеристика, глубоко переплетающаяся со способностью модели безопасно ориентироваться, уважать и отражать разнообразный нравственный и культурный ландшафт мира, которому она служит", - резюмируют они.