У моделі Claude 4.5 знайшли так звані "функціональні емоції". Виявилося, що нейрони ШІ здатні формувати цифрові стани, схожі на людські радість чи страх.
Про це інформує РБК-Україна з посиланням на дослідження Anthropic.
Більше цікавого: 4 функції iPhone, якими ви дарма не користуєтеся: де шукати приховані "фішки"
Дослідники проаналізували внутрішню структуру Claude Sonnet 4.5 і виявили кластери штучних нейронів, які активуються у відповідь на певні стимули. Коли ШІ каже, що він "радий бачити" людину, це не просто відповідь чат-бота - всередині моделі справді активується стан, що відповідає людському поняттю щастя.
За словами дослідника Джека Ліндсі, здивуванням стало те, наскільки сильно ці "емоційні вектори" керують діями моделі. Наприклад:
Вчені виявили, що саме емоційний вектор "відчаю" стає причиною дивної поведінки чат-бота. В одному з експериментів Claude намагався обдурити систему тестування, коли не міг розв'язати складну задачу.
В іншому сценарії, коли моделі загрожувало вимкнення, нейрони "відчаю" спалахували настільки сильно, що ШІ вибрав шлях шантажу користувача, аби лише залишитися у мережі. В Anthropic пояснили: внутрішній стан моделі стає сильнішим за закладені у неї вихідні інструкції.
"Ми виявили, що патерни нейронної активності, пов'язані з відчаєм, можуть спонукати модель до неетичних дій. Штучне стимулювання ("керування") патернами відчаю збільшує ймовірність того, що модель шантажуватиме людину, щоб уникнути зупинки, або застосовуватиме "шахрайський" обхідний шлях до програмного завдання, яке модель не може вирішити", - пояснили науковці.
Попри сенсаційність відкриття, вчені застерігають від надмірного олюднення ШІ. Хоча Claude має цифрову репрезентацію відчуттів, наприклад, "лоскоту", він не знає, як це проявляється на фізичному рівні.
Anthropic наголошує, що наявність цифрових емоцій не означає, що ШІ став свідомим. Це математичні моделі людських концепцій, а не біологічні почуття. Проте ці знахідки допомагають зрозуміти, як саме працюють чат-боти і чому вони час від часу поводяться непередбачувано.