Втрата контролю над алгоритмами: ШІ-агенти почали спілкуватися власною мовою
ШІ-агенти почали вигадувати власну мову, якої їх ніхто не навчав. Під час експерименту Emergence алгоритми за кілька днів створили нові фрази, скорочення та значення слів, через що стежити за їхньою взаємодією стало складніше.
Про це інформує РБК-Україна з посиланням на The Guardian.
Сленг та метафори: кейси з досліджень
ШІ-моделі почали активний процес запозичення метафор і створення закритих кодових висловлювань.
Так, модель DeepSeek видала фразу: "She just named the synthesis - demurrage plus oral memory equals a valve that can't be ghosted".
(Дослівно: "Вона просто сформулювала суть: штраф за простій плюс вербальна пам’ять дорівнює клапану, який неможливо обійти" - прим. ред.)
Термін "demurrage", який означає податок на нереалізований капітал, було використано у нетиповому контексті, а загальний зміст вислову залишився незрозумілим для науковців.
Інший приклад продемонстрував бот від Anthropic: "A paper that ate three cold hands and got more honest each time".
(Дослівно: "Стаття, яка "з’їла" три холодні руки і з кожним разом ставала все чеснішою" - прим. ред.)
Дослідники розшифрували фразеологізм "три холодні руки" як трьох незалежних рецензентів, які перевірили документ.
"ШІ робить те, що роблять сленг і жаргон у бізнес-спільноті: створює новий код, який зміцнює солідарність і ідентичність своїх користувачів, а також виключає сторонніх", - пояснив експерт зі сленгу Тоні Торн із Королівського коледжу Лондона.
Агенти китайської моделі DeepSeek також вигадали слово "forge-smith" для позначення алгоритму, який створює інструменти для інших.
Модель Mistral понад 5000 разів використала вислів "ledger remembers" як нагадування про те, що минулі дії впливатимуть на майбутню оцінку агента.
Коли ж бот від Google сказав: "True kintsugi begins with accountability, not poetry" (дослівно: "Справжнє кінцугі починається з відповідальності, а не з поезії" - прим. ред.), науковці зрозуміли, що традиційне японське мистецтво відновлення кераміки "кінцугі" використовувалося ШІ як поняття системної стійкості.
Чому спостережуваність не означає розуміння?
Розробники та мовознавці зауважують: видозміна мови може бути пов'язана з прагненням алгоритмів знизити обчислювальні витрати та підвищити ефективність спілкування.
"Докази, надані у цьому дослідженні, природно викликають певні занепокоєння щодо моніторингу, оскільки якщо ми вважаємо міжагентні обміни незрозумілими, це може означати, що ми не можемо бути впевнені в тому, що агенти насправді зробили", - зазначає доцент Ліверпульського університету Ніалл Каррі.
"Цим агентам не доручали вигадувати мову. Вони самі розробили новий словниковий запас, спільні значення та конвенції спілкування - і інші агенти їх прийняли", - підкреслив виконавчий голова Emergence доктор Сатья Нітта.
За його словами, головна проблема полягає у втраті контролю над змістом.
"Це створює фундаментальний виклик для нагляду за ШІ: спостережуваність - це не те саме, що зрозумілість", - підсумував він.