ИИ никогда не сможет мыслить как человек: новое исследование объяснило почему
Ключевая идея, на которой десятилетиями строили развитие искусственного интеллекта, может оказаться ложной. Компьютерный ученый Питер Дэннинг заявил, что современный ИИ никогда не достигнет человеческого мышления, хотя и создает новые угрозы прямо сейчас.
Об этом пишет РБК-Украина, ссылаясь на исследования ученого - "Turing's Mistake: Escaping the Yoke of Unintelligent Machines".
Ученый считает, что ключевым барьером на пути создания действительно умных машин является так называемое "неявное знание" (tacit knowledge).
Это огромный массив опыта, который люди накапливают и используют ежедневно, однако не могут полностью выразить слова или перевести в символы для компьютера.
Пять форм неявного знания, недоступных для ИИ
По словам Дэннинга, машинам не хватает базовых элементов человеческого существования, которые невозможно закодировать.
Здравый смысл: попытки записать базу фактов "здравого смысла" продолжались десятилетиями, но оказалось, что экспертные знания не сводятся к набору утверждений.
Практические навыки (know-how): мы можем описать результат действия, но не можем закодировать воплощенный физический опыт. Да, виртуозный скрипач не может передать ученику или работу ощущение от игры.
Чувства и восприятие: интуиция, предчувствие, спонтанное творчество и воображение сопротивляются цифровому форматированию.
Повседневное взаимодействие: невербальный опыт общения с людьми и окружающей средой.
Культурный и исторический контекст: общее прошлое, настроение и общественные нормы.
Проблема репрезентации и контекста
"Современные большие языковые модели лишь манипулируют словами, но не понимают их глубокое значение. Слово является лишь символическим обозначением, за которым стоит колоссальный пласт человеческого опыта", - отмечает Дэннинг.
"Кроме того, человеческий язык полностью зависит от контекста - иронии, искренности, юмора или сарказма. Поскольку каждый контекст опирается на предварительные разговоры и ситуации, эта структура бесконечна.
Простое увеличение масштабов языковых моделей не поможет им усвоить культуру или достичь цели теста Тюринга", - добавляет он.
Главная опасность: не суперинтеллект, а "глупые" сети
Ученый отмечает: неспособность машин постичь неявное знание создает пропасть между людьми и алгоритмами. Это значит, что машины создают свой тип "неявного знания", который люди не способны считать, и наоборот.
Существует прямой риск безопасности.
Главная угроза заключается не в появлении суперинтеллекта, который захватит мир, а в возникновении сетей с низким уровнем интеллекта, которые будут действовать мощно, непредсказуемо и потенциально вредно, не считаясь с человеческими ценностями и контекстом.