ИИ никогда не станет человеком: известный ученый объяснил почему
Известный компьютерный ученый Питер Дэннинг в своей новой книге заявил, что концепция Алана Тюринга "зациклила" разработчиков на невозможной идее создания "бесплотного ума".
Об этом сообщает РБК-Украина со ссылкой на книгу Дэннинга - "Turing's Mistake
Escaping the Yoke of Unintelligent Machine".
Проблема "неявного знания": барьеры, которые машины не справятся
Главный аргумент Дэннинга строится вокруг концепции неявного знания (tacit knowledge) - огромного пласта человеческого опыта, который невозможно описать словами, закодировать в биты или передать символами.
Ученый выделяет 5 основных сфер человеческого бытия, которые недостижимы для машинного обучения.
- Здравый смысл и фоновые жизненные знания;
- Ежедневное взаимодействие с другими людьми и физической средой;
- Чувства, эмоции и внутреннее восприятие мира;
- Практические навыки и мастерство ("знать как" в противоположность теоретическому "знать что");
- Социальная и историческая культура.
Практика доказывает невозможность оцифровки этих сфер. К примеру, амбициозный проект Cyc Дугласа Лената с 1980-х годов пытался создать полную базу фактов здравого смысла.
За 40 лет человеческого труда база накопила 25 миллионов записей, однако экспертные системы так и не стали разумными.
Похожая проблема возникает и с практическими навыками: выдающийся скрипач играет гениальную музыку, но не способен на язык передать ученику физическое ощущение своего мастерства.
Даже робот, скопирующий движения музыканта, не будет иметь тела, чтобы почувствовать красоту игры или реакцию слушателей.
Контекст, культура и опасность неподконтрольных сетей
Следующим непреодолимым препятствием для ИИ является контекст ситуации и культурное измерение. Именно контекст определяет, является ли фраза сарказмом, шуткой или проявлением агрессии.
Контекст всегда строится на бесконечной цепочке предыдущих разговоров и опыта. Большие языковые модели, тренируясь на гигантских массивах данных, просто изучают статистические связи между словами, оставаясь "слепыми" до их подлинного содержания и культурного бекграунда.
Дэннинг убежден: вместо дружеского человеческого интеллекта масштабирование нейросетей ведет к созданию совершенно чужого и опасного машинного разума.
Агентные сети машин начинают формировать собственное "машинное неявное знание". Люди не могут прочесть логику решений ИИ, а машины не способны понять человеческие мотивы.
Из-за этой взаимной глухоты, считает исследователь, надежное согласование целей ИИ с намерениями людей становится невозможным.
Угроза заключается не в захвате мира "надрозумом", а в хаосе, который могут создать автономные низкоинтеллектуальные машины, не имеющие никакого представления о человеческих ценностях и эмпатиях.