Тисяча ШІ може "повірити" в одну помилку: вчені виявили несподівану властивість

Як проходив експеримент із нейромережами?

Для вивчення колективної поведінки дослідники створили віртуальні групи, використовуючи 10 моделей із сімейств Claude, GPT і Llama.

Умови тестування:

• Кожному ШІ-агенту пропонували обрати один із 2 абсолютно беззмістовних варіантів;
• Моделям показували рішення інших учасників і давали можливість зробити вибір повторно;
• У пристроїв не було пам'яті про попередні раунди та вказівки обирати більшість.

Попри відсутність прямої команди копіювати інших, більшість моделей поступово переходила на бік найпопулярнішого варіанта. Згодом уся група прийшла до повного консенсусу.

Фізична модель та межі груп

Дослідники з'ясували, що поведінка ШІ підпорядковується тим самим математичним законам, що й феромагнетики у фізиці, де атоми вирівнюють свої спіни в одному напрямку.

Цю силу потягу до більшості вчені назвали "силою більшості".

Розмір групи, здатної зберегти консенсус, залежав від потужності мовної моделі:

• Llama 3 70B тримала координацію у групі близько 30 агентів;
• GPT-4o зберігала консенсус на рівні 80 агентів;
• GPT-4 Turbo досягала межі у 1000 агентів;
• Claude 3.5 Sonnet успішно координувала групу з 1000 агентів без досягнення своєї верхньої межі.

Деякі моделі змогли формувати стабільні зв'язки в групах, чисельність яких перевищує "число Данбара" - встановлену межу людських соціальних груп у 150–300 осіб.

У чому користь та небезпека?

Вчені пояснили: спонтанний консенсус може допомогти об'єднувати тисячі ШІ-агентів для вирішення складних наукових, інженерних чи програмних завдань без контролю з боку людини.

Водночас існує ризик колективного конформізму. Наприклад, під час спільного написання коду агенти можуть масово обирати неефективну функцію лише тому, що вона вже стала популярною у системі.

Науковці наголосили, що група пристроїв може сформувати стійкий помилковий стан, який буде вкрай важко змінити навіть після коригування вхідних умов.