Сознание ИИ под вопросом: ученые заявили о фундаментальных ошибках

Проблематика и дискурс

Стремительное развитие нейросетей заставило ученых и общество задуматься над вопросами, которые ранее относились только к области философии.

• Может ли ИИ иметь сознание?
• Способны ли животные, выращенные в лаборатории органоиды мозга или человеческие эмбрионы иметь субъективный опыт?

Команда ученых из IBS, Монреальского и Нью-Йоркского университетов поставила другой базовый вопрос: способны ли наши технологии вообще это измерить?

"Большинство современных экспериментов фиксируют лишь общую способность системы анализировать данные, а не само сознание", - объясняет директор Центра нейровизуализационных исследований Хакван Лау.

"Популярные методы, например, проверка зрительной маскировки или выявление сенсорных порогов, меняют не только сознательный опыт, но и общую когнитивную способность мозга или ИИ. Поэтому разработчики бессознательно приписывают машинам человеческие качества", - добавляет ученый.

Уроки истории - угроза для науки?

Исследователи напоминают, что похожий кризис уже возникал в психологии на рубеже XIX и XX веков. Тогда громкие, но плохо обоснованные заявления о природе сознания привели к жесткой критике со стороны научного сообщества. Это породило бихевиоризм и на десятилетия заморозило любые серьезные исследования в области.

Чтобы не повторять ошибок прошлого, ученые предлагают изучать особые нейропсихологические состояния. Например, "слепое зрение" (blindsight) илипространственное игнорирование, когда человек реагирует на раздражители, но не осознает их.

Такие аномалии доказывают, что обработка информации и субъективное восприятие - это разные процессы, которые нужно исследовать отдельно.

Этические и социальные последствия

Создание точных методов изоляции субъективного опыта является критически важным для будущего. Утверждения о наличии или отсутствии сознания напрямую влияют на глобальные дискуссии.

Сегодня от этих выводов зависят:

• правила защиты животных и ветеринарная этика;
• нормы регулирования искусственного интеллекта и права роботов;
• вопросы биоэтики и статус медицинских исследований.

"Если научные заявления о сознании собираются влиять на этику ИИ или биоэтику, то научный фундамент этих заявлений должен быть максимально строгим", - отмечают авторы исследования.

Ученые надеются, что их работа заставит коллег придерживаться "концептуальной четкости в области искусственного разума".