ChatGPT общается как человек, но не думает: ученые раскрыли правду
Чат-боты вроде ChatGPT или Claude научились формулировать настолько персонализированные ответы, что у пользователей возникает иллюзия общения с сознательным существом. Однако команда учёных из Монреальского университета и Университета Джонса Хопкинса призывает чётко различать понятия интеллекта и сознания.
Об этом сообщает РБК-Украина со ссылкой на The Transmitter.
Эффект "слепого зрения": как алгоритмы обманывают наш мозг
Чтобы объяснить природу работы ИИ, авторы исследования обратились к известному в нейробиологии феномену - так называемому "слепому зрению" (blindsight).
Он встречается у людей с повреждением первичной зрительной коры: пациенты утверждают, что абсолютно ничего не видят перед собой, но в то же время способны с высокой точностью угадать направление движения объекта или эмоциональное выражение лица на фотографии.
"Человек со слепым зрением успешно обрабатывает и использует визуальную информацию, но не имеет сознательного опыта самого зрения", - объясняет Ванесса Хадид, исследовательница в области психологии из Монреаля.
Этот пример доказывает: даже самая сложная обработка информации и точные конечные реакции не являются свидетельством наличия внутреннего мира или осознанности.
Современные языковые модели - это чисто вычислительные системы. Они генерируют логичные и приятные ответы с помощью статистического анализа огромных массивов данных, а не на основе собственных чувств или жизненного опыта.
Чувствительные пользователи под угрозой?
Когда алгоритм начинает слишком убедительно копировать человеческое поведение, пользователи попадают в ловушку антропоморфизма - психологического рефлекса, заставляющего наделять неодушевленные предметы эмоциями и намерениями.
Это создает опасную иллюзию того, что машина "понимает" человека, и формирует неоправданное доверие к ней.
Особенно остро этот риск проявляется тогда, когда люди находятся в состоянии эмоциональной уязвимости, стресса или одиночества. Они начинают искать в чат-ботах психологическую поддержку, путая обычный текстовый комфорт с реальной заботой.
"Главная опасность заключается даже не в том, что ИИ может дать неправильный совет. Риск в том, что он может ответить настолько хорошо и метко, что мы забудем главное: за этим ответом вообще никого нет", - подчеркивает Ванесса Хадид.
Как правильно взаимодействовать с технологиями?
Ученые отмечают, что их работа не призвана заставить людей отказаться от использования ИИ. Это призыв к более осознанному и прагматичному использованию технологий.
Понимание того, что нейросети не обладают моральными ориентирами, эмпатией или внутренним опытом, помогает воспринимать их правильно - как высокотехнологичные и мощные инструменты.
Алгоритмы могут структурировать информацию или помочь с рутинными задачами, однако они ни при каких обстоятельствах не способны заменить реальные человеческие отношения, искреннюю взаимопомощь и профессиональную психологическую поддержку со стороны живых специалистов.