Тысяча ИИ-моделей может "поверить" в одну ошибку: ученые обнаружили неожиданное свойство
Ученые провели эксперимент с тысячей ИИ-агентов и обнаружили способность спонтанно принимать одинаковый выбор без централизованного управления.
Об этом информирует РБК-Украина со ссылкой на исследование, опубликованное в журнале Science Advances.
Как проходил эксперимент с нейросетями?
Для изучения коллективного поведения исследователи создали виртуальные группы, используя 10 моделей из семейств Claude, GPT и Llama.
Условия тестирования:
- Каждому ИИ-агенту предлагали выбрать один из 2 совершенно бессодержательных вариантов;
- Моделям показывали решения других участников и давали возможность сделать выбор повторно;
- У устройств не было памяти о предыдущих раундах и указаниях выбирать большинство.
Несмотря на отсутствие прямой команды копировать других, большинство моделей постепенно переходило на сторону самого популярного варианта. Впоследствии вся группа пришла к полному консенсусу.
Физическая модель и границы групп
Исследователи выяснили, что поведение ИИ подчиняется тем же математическим законам, что и ферромагнетики в физике, где атомы выравнивают свои спины в одном направлении.
Эту силу влечения к большинству ученые назвали "силой большинства".
Размер группы, способной сохранить консенсус, зависел от мощности речевой модели:
- Llama 3 70B держала координацию в группе около 30 агентов;
- GPT-4o сохраняла консенсус на уровне 80 агентов;
- GPT-4 Turbo достигала предела у 1000 агентов;
- Claude 3.5 Sonnet успешно координировала группу из 1000 агентов без достижения своего верхнего предела.
Некоторые модели смогли формировать стабильные связи в группах, численность которых превышает "число Данбара" - установленный предел человеческих социальных групп у 150-300 человек.
В чем польза и опасность?
Ученые объяснили: спонтанный консенсус может помочь объединять тысячи ИИ-агентов для решения сложных научных, инженерных или программных задач без контроля человека.
В то же время существует риск коллективного конформизма. Например, при совместном написании кода агенты могут массово выбирать неэффективную функцию только потому, что она стала популярной в системе.
Ученые отметили, что группа устройств может сформировать устойчивое ошибочное состояние, которое будет крайне тяжело изменить даже после корректировки входных условий.