Claude навчився "спати", як людина: ШІ виправляє власні помилки без підказок
ШІ "бачить сни" для виправлення власних помилок (колаж: РБК-Україна)
Claude навчився аналізувати власний досвід у періоди бездіяльності - розробники Anthropic порівнюють цей процес зі сном людини. Дослідження показало, як ШІ може впорядковувати накопичену інформацію та закріплювати корисні знання.
Про це пише РБК-Україна з посиланням на статтю Anthropic.
Чому "запам'ятовувати все" - погана ідея?
Розробники пояснюють: якщо бот записує кожен крок, його пам'ять перетворюється на смітник. Але якщо він не зберігає важливі деталі - наступного разу доведеться починати з нуля.
Щоб знайти баланс, дослідники доручили Claude проходити гру Pokémon Red, де треба досліджувати світ і здобувати значки.
Результати ШІ-моделей після 10000 ігрових кроків здивували розробників:
Sonnet 3.7 зберігала абсолютно все: накопичила 413 файлів у 225 папках (це майже 978000 символів), але здобула лише 1 значок;
Claude Fable 5 діяла точково: заповнила лише 10 файлів у 3 папках (близько 43400 символів) і забрала 4 значки.
Fable 5 записувала головне - стратегії, висновки та поточні цілі. Модель не витрачала сили на обробку того, що й так видно на екрані гри, і не втрачала важливі відкриття між сесіями.
Читайте більше: ШІ краде здатність думати самостійно: розробник Claude попередив про небезпеку
Як "сни" допомагають роботу виправляти помилки?
В Anthropic підкреслили: якщо ШІ зберіг хибний факт, у наступних розмовах він сприйматиме його як правду. Позбутися цієї "галюцинації" допомогли саме "сни".
Під час чергового тесту в Pokémon Red бот неправильно записав координати Покецентру біля гори Мун. Через це він постійно блукав довкола, стрибав через односторонні уступи та повертався на початок маршруту.
У режимі простою Claude звірив свої нотатки з повним текстом минулої гри і виявив помилку:
- асистент сам замінив хибні координати на правильні;
- повернувшись у гру, він легко пройшов гору Мун і дістався міста Сірулін;
- версія без функції "сну" так і залишилася блукати в тій самій пастці.
Не пропустіть: Anthropic заборонила створювати клони ігор у Claude: яка причина
Перетворення "хаосу" файлів на "Вікіпедію"
Ефективність такого "нічного роздуму" ШІ перевірили на великих масивах даних. Claude доручили опрацювати 350 000 внутрішніх документів компанії Stainless загальним обсягом близько 420 мільйонів токенів.
За 128 періодів бездіяльності модель самостійно створила на основі цих матеріалів повноцінну вікісистему зі структурованими даними та перехресними посиланнями.
Завдяки цьому точність відповідей на 25 складних тестових запитань зросла з 13 до 48 відсотків.
В іншому експерименті Claude аналізував документи, пов'язані зі злиттям компаній. Створена під час періодів бездіяльності база знань допомогла моделі відповідати на запитання з точністю до 87 відсотків.
Для порівняння, звичайний пошук у документах забезпечував лише 73 відсотки точності.
З усім тим, технологія має суттєві обмеження.
Розробники визнають: такі сеанси аналізу потребують значних обчислювальних ресурсів, а надмірна кількість інформації в пам'яті може перевантажувати наступні сесії роботи моделі.
