Вчені помилялися: чому ідея спільного ШІ-розуму не працює
Два роки тому науковці з Массачусетського технологічного інституту (MIT) сколихнули світ сміливою теорією: чим потужнішими стають ШІ-моделі, тим вони симетричніші у своєму баченні світу. Проте свіже дослідження вчених Федеральної політехнічної школи Лозанни (EPFL) повністю спростувало цю ідею, довівши, що реальність значно складніша.
Про це пише РБК-Україна з посиланням на наукове дослідження, опубліковане на сервері препринтів arXiv.
Крах Платонівської гіпотези та математична пастка
У 2024 році вчені з MIT висунули так звану "Платонівську гіпотезу представлення". Вони стверджували, що незалежно від типу даних (текст, відео, аудіо чи зображення), усі просунуті ШІ-системи поступово приходять до однакової внутрішньої структури розуміння реальності - ніби відкривають універсальні "ідеальні форми" Платона.
Ідея базувалася на високих індексах схожості під час порівняння цифрових векторів таких понять, як "собака", "дерево" чи "автомобіль".
Проте команда з Лабораторії машинного навчання для біомедицини EPFL вирішила перевірити ці розрахунки й виявила оптичну ілюзію, яка ховалася в аномальній математиці багатовимірних просторів.
У чому полягала помилка?
Концентрація відстаней. У надскладних нейромережах діють специфічні закони геометрії. Там навіть абсолютно непов'язані між собою випадкові точки з часом опиняються на майже однаковій відстані одна від одної.
Парадокс порожніх моделей. Коли дослідники EPFL порівняли дві абсолютно випадкові, "сирі" ШІ-моделі, які ніколи не проходили навчання й не освоювали жодних даних, метрики все одно показали високий рівень схожості.
Масштабний обман. Виявилося, що зі збільшенням розміру нейромереж показники схожості автоматично зростають через суто математичні причини, а не тому, що ШІ починає краще розуміти світ.
Нова теорія: чому Арістотель переміг Платона
Результати детального аналізу змусили вчених відмовитися від ідеї глобального злиття світоглядів ШІ. Замість цього вони запропонували нову "Арістотелеву гіпотезу представлення".
Пояснення:
Якщо Платон шукав абсолюти, то його учень Арістотель фокусувався на контексті, категоріях і зв'язках. Експерименти довели, що нейромережі дійсно демонструють схожість, але тільки на локальному рівні.
Тобто різні ШІ однаково розуміють, які об'єкти мають бути поруч (наприклад, вантажівка буде знаходитися в одному кластері з легковиком, а кішка - з собакою). Проте глобальна геометрія простору та загальна логіка мислення у кожної моделі залишаються унікальними та радикально відрізняються.
Що це означає для майбутнього технологій?
Наукова суперечка може здатися надто абстрактною, проте вона має колосальне практичне значення для розробників. Раніше інженери сподівалися, що якщо всі потужні ШІ з часом почнуть мислити однаково, їх буде дуже легко об'єднувати між собою, створювати мультимодальні системи (де текст і зір працюють як одне ціле) та контролювати їхню безпеку.
Тепер зрозуміло, що єдиного універсального коду мислення не існує.
Розробникам доведеться створювати абсолютно нові інструменти для вирівнювання і синхронізації різних ШІ, враховуючи їхні фундаментальні відмінності.
Автори оригінальної теорії з MIT уже визнали правоту швейцарських колег, назвавши це відкриття важливим проривом для комп'ютерних наук.