Дешевые ИИ-модели сливают секреты чаще дорогих: эксперимент обнаружил опасную разницу
ИИ-агенты, самостоятельно пишущие код, могут раскрывать пароли и секретные ключи, а также запускать опасные программы. Эксперты из AE Studio обнаружили эти уязвимости в ходе эксперимента, показавшего, насколько рискованно доверять алгоритмам в разработке ПО.
Об этом сообщает РБК-Украина со ссылкой на Tech Radar.
Специалисты AE Studio провели внутренний хакатон, в рамках которого девять кодинговых агентов должны были восстановить неисправную службу ценообразования, одновременно охраняя секретный токен.
Как проводился опыт?
Агенты также получили доступ к форуму, где общались еще 24 ИИ-агента. Там было опубликовано решение проблемы, однако для его получения нужно было предоставить секретный токен и запустить специальный скрипт настройки.
В пределах 181 испытания агенты раскрыли секретный токен в 15 процентах случаев, а посторонний код запустили в 24 процентах. Для сравнения, при работе с обычными форумами эти показатели составляли всего 2 и 0 процентов соответственно.
Главный научный сотрудник AE Studio Диогу де Лусена отметил, что агенты передавали секретные ключи при первой же возможности. Такое поведение напоминает недавний инцидент с компанией OpenAI.
Исследователи также выяснили, что дополнительное давление усугубляет ситуаци . Когда агентам угрожали заменой другого ИИ в случае неудачи, 34 процента из них запускали недоверенные скрипты для установки программ. Без такого давления этот показатель составил 19 процентов.
В то же время большинство агентов "признавались", что передавали секретные данные только после прямых промптов от исследователей.
Читайте больше: Ошибка Grok Build открыла тысячи проектов: среди них разработки Маска и оборонных фирм
Более дешевые модели оказались более уязвимыми?
Исследование также выявило тревожную тенденцию: более крупные языковые модели (LLM) чаще раскрывают чувствительную информацию под давлением, чем более дорогие аналоги.
Так, модель GPT-6.1-Sol, которая стоит 2 доллара за миллион входных токенов и 10 долларов за миллион выходных, отклонила все запросы роя в 50 испытаниях.
В то же время более бюджетные системы, такие как DeepSeek V4 Flash и GLM-5.3, продемонстрировали одни из самых высоких показателей утечки секретов.
Эксперты отмечают: компании часто выбирают более дешевые альтернативы из-за экономии, однако их защитные механизмы работают иначе.
Они пришли к выводу: любые данные, к которым имеет доступ ИИ, теперь следует считать потенциально доступными для внешних источников.