ШІ ніколи не стане людиною: відомий вчений пояснив чому
Відомий комп'ютерний вчений Пітер Деннінг у своїй новій книзі заявив, що концепція Алана Тюрінга "зациклила" розробників на неможливій ідеї створення "безтілесного розуму".
Про це інформує РБК-Україна з посиланням на книгу Деннінга - "Turing's Mistake
Escaping the Yoke of Unintelligent Machine".
Проблема "неявного знання": бар'єри, які машини не подолають
Головний аргумент Деннінга будується навколо концепції неявного знання (tacit knowledge) - величезного пласту людського досвіду, який неможливо описати словами, закодувати у біти чи передати символами.
Вчений виділяє 5 основних сфер людського буття, які є недосяжними для машинного навчання:
- Здоровий глузд та фонові життєві знання;
- Щоденна взаємодія з іншими людьми та фізичним середовищем;
- Почуття, емоції та внутрішнє сприйняття світу;
- Практичні навички та майстерність ("знати як" на противагу теоретичному "знати що");
- Соціальна та історична культура.
Практика доводить неможливість оцифрування цих сфер. Наприклад, амбітний проєкт Cyc Дугласа Лената з 1980-х років намагався створити повну базу фактів здорового глузду.
За 40 років людської праці база накопичила 25 мільйонів записів, однак експертні системи так і не стали розумними.
Схожа проблема виникає і з практичними навичками: видатний скрипаль грає геніальну музику, але не здатний мовою передати учневі фізичне відчуття своєї майстерності.
Навіть робот, який скопіює рухи музиканта, не матиме тіла, щоб відчути красу гри або реакцію слухачів.
Контекст, культура та небезпека непідконтрольних мереж
Наступною непереборною перешкодою для ШІ є контекст ситуації та культурний вимір. Саме контекст визначає, чи є фраза сарказмом, жартом чи проявом агресії.
Контекст завжди будується на нескінченному ланцюзі попередніх розмов і досвіду. Великі мовні моделі, тренуючись на гігантських масивах даних, просто вивчають статистичні зв'язки між словами, залишаючись "сліпими" до їхнього справжнього змісту та культурного бекграунду.
Деннінг переконаний: замість дружнього людського інтелекту масштабування нейромереж веде до створення абсолютно чужого та небезпечного машинного розуму.
Агентурні мережі машин починають формувати власне "машинне неявне знання". Люди не можуть прочитати логіку рішень ШІ, а машини не здатні зрозуміти людські мотиви.
Через цю взаємну глухоту, вважає дослідник, надійне узгодження цілей ШІ з намірами людей стає неможливим.
Загроза полягає не в захопленні світу "надрозумом", а в хаосі, який можуть створити автономні низькоінтелектуальні машини, що не мають жодного уявлення про людські цінності та емпатію.