ШІ ніколи не зможе мислити як людина: нове дослідження пояснило чому
Нерозумні алгоритми небезпечніші за супер-ШІ (фото: Magnific)
Ключова ідея, на якій десятиліттями будували розвиток штучного інтелекту, може виявитися хибною. Комп'ютерний науковець Пітер Деннінг заявив, що сучасний ШІ ніколи не досягне людського мислення, хоча й створює нові загрози просто зараз.
Про це пише РБК-Україна, посилаючись на дослідження вченого - "Turing’s Mistake: Escaping the Yoke of Unintelligent Machines".
Науковець вважає, що ключовим бар'єром на шляху створення справді розумних машин є так зване "неявне знання" (tacit knowledge).
Це величезний масив досвіду, який люди накопичують і використовують щодено, проте не можуть повністю висловити словами чи перекласти у символи для комп'ютера.
П'ять форм неявного знання, недоступних для ШІ
За словами Деннінга, машинам бракує базових елементів людського існування, які неможливо закодувати.
Здоровий глузд: спроби записати базу фактів "здорового глузду" тривали десятиліттями, але виявилося, що експертні знання не зводяться до набору тверджень.
Практичні навички (know-how): ми можемо описати результат дії, але не можемо закодувати втілений фізичний досвід. Так, віртуозний скрипаль не може передати учневі або роботу відчуття від гри.
Почуття та сприйняття: інтуїція, передчуття, спонтанна творчість та уява опираються цифровому форматуванню.
Повсякденна взаємодія: невербальний досвід спілкування з людьми та навколишнім середовищем.
Культурний та історичний контекст: спільне минуле, настрій і суспільні норми.
Проблема репрезентації та контексту
"Сучасні великі мовні моделі лише маніпулюють словами, але не розуміють їхнього глибокого значення. Слово є лише символічним позначенням, за яким стоїть колосальний пласт людського досвіду", - зазначає Деннінг.
"Крім того, людська мова повністю залежить від контексту - іронії, щирості, гумору чи сарказму. Оскільки кожен контекст спирається на попередні розмови та ситуації, ця структура є нескінченною.
Просте збільшення масштабів мовних моделей не допоможе їм засвоїти культуру або досягти мети тесту Тюрінга", - додає він.
Головна небезпека: не суперінтелект, а "нерозумні" мережі
Вчений наголошує: нездатність машин осягнути неявне знання створює прірву між людьми й алгоритмами. Це означає, що машини створюють власний тип "неявного знання", який люди не здатні зчитати, і навпаки.
Існує прямий ризик для безпеки.
Головна загроза полягає не в появі суперінтелекту, який захопить світ, а у виникненні мереж із низьким рівнем інтелекту, які діятимуть потужно, непередбачувано і потенційно шкідливо, не враховуючи людських цінностей та контексту.
