Ученые ошибались: почему идея совместного ИИ-разума не работает
Два года назад ученые из Массачусетского технологического института (MIT) всколыхнули мир смелой теорией: чем мощнее становятся ИИ-модели, тем они симметричнее в своем видении мира. Однако свежее исследование ученых Федеральной политехнической школы Лозанны (EPFL) полностью опровергло эту идею, доказав, что реальность значительно сложнее.
Об этом пишет РБК-Украина со ссылкой на научное исследование, опубликованное на сервере препринтов arXiv.
Крах Платоновской гипотезы и математическая ловушка
В 2024 году ученые из MIT выдвинули так называемую "Платоновскую гипотезу представления". Они утверждали, что независимо от типа данных (текст, видео, аудио или изображения), все продвинутые ИИ-системы постепенно приходят к одинаковой внутренней структуре понимания реальности - будто открывают универсальные "идеальные формы" Платона.
Идея базировалась на высоких индексах сходства при сравнении цифровых векторов таких понятий, как "собака", "дерево" или "автомобиль".
Однако команда из Лаборатории машинного обучения для биомедицины EPFL решила проверить эти расчеты и обнаружила оптическую иллюзию, которая скрывалась в аномальной математике многомерных пространств.
В чем заключалась ошибка?
Концентрация расстояний. В сверхсложных нейросетях действуют специфические законы геометрии. Там даже совершенно несвязанные между собой случайные точки со временем оказываются на почти одинаковом расстоянии друг от друга.
Парадокс пустых моделей. Когда исследователи EPFL сравнили две абсолютно случайные, "сырые" ИИ-модели, которые никогда не проходили обучение и не осваивали никаких данных, метрики все равно показали высокий уровень сходства.
Масштабный обман. Оказалось, что с увеличением размера нейросетей показатели сходства автоматически растут по чисто математическим причинам, а не потому, что ИИ начинает лучше понимать мир.
Новая теория: почему Аристотель победил Платона
Результаты детального анализа заставили ученых отказаться от идеи глобального слияния мировоззрений ИИ. Вместо этого они предложили новую "Аристотелеву гипотезу представления".
Объяснение:
Если Платон искал абсолюты, то его ученик Аристотель фокусировался на контексте, категориях и связях. Эксперименты доказали, что нейросети действительно демонстрируют сходство, но только на локальном уровне.
То есть разные ИИ одинаково понимают, какие объекты должны быть рядом (например, грузовик будет находиться в одном кластере с легковушкой, а кошка - с собакой). Однако глобальная геометрия пространства и общая логика мышления у каждой модели остаются уникальными и радикально отличаются.
Что это означает для будущего технологий?
Научный спор может показаться слишком абстрактным, однако он имеет колоссальное практическое значение для разработчиков. Ранее инженеры надеялись, что если все мощные ИИ со временем начнут мыслить одинаково, их будет очень легко объединять между собой, создавать мультимодальные системы (где текст и зрение работают как одно целое) и контролировать их безопасность.
Теперь понятно, что единого универсального кода мышления не существует.
Разработчикам придется создавать совершенно новые инструменты для выравнивания и синхронизации различных ИИ, учитывая их фундаментальные различия.
Авторы оригинальной теории из MIT уже признали правоту швейцарских коллег, назвав это открытие важным прорывом для компьютерных наук.