Промпты для ИИ могут работать против вас: глава Microsoft сделал громкое заявление
Генеральный директор Microsoft Сатья Наделла опубликовал резонансный блог, в котором предупредил корпоративных клиентов о скрытой опасности использования закрытых коммерческих ИИ-моделей.
Об этом пишет РБК-Украина со ссылкой на публикацию Наделлы.
Ловушка коммерческого ИИ: как бизнес собственноручно обучает будущих конкурентов
По словам Наделлы, главная опасность кроется в "цифровом выхлопе" - промптах, которые пишут ІТ-специалисты, действиях автономных агентов и, самое главное, поправках, которые люди вносят, когда модель ошибается.
Каждая такая корректировка превращается в готовое институциональное ноу-хау, которое закрытые ИИ-лаборатории собирают и аккумулируют в своих системах.
Основные угрозы для бизнеса при текущем статус-кво:
Разработчики моделей получают знания об уникальных нюансах работы чужого бизнеса, которые ни один конкурент никогда не смог бы купить на рынке;
Авторы закрытых систем бесплатно собирают данные по всему интернету для обучения, но устанавливают строгие ограничения на "дистилляцию" - практику использования их ответов для обучения других моделей;
Компании, создающие ИИ, оставляют за собой право учиться на взаимодействии с клиентами, получая потенциальную возможность стать прямыми конкурентами для своих клиентов.
"Используя интеллект, вы создаете интеллект. И то, что вы создаете, должно принадлежать только вам", - отмечает руководитель Microsoft.
Как решение Наделла предлагает компаниям сохранять полное право собственности на свои промпты и отзывы, создавая собственные закрытые среды обучения в облаке, а также внедрять инструменты оркестрации (шлюзы), позволяющие легко переключаться между разными поставщиками технологий.
Новая волна: корпоративный сектор массово переходит на open source
Предупреждение от главы Microsoft подтверждает масштабный тренд, уже фиксирующий аналитики ІТ-рынка.
Крупные корпорации, поэкспериментировавшие с закрытыми коммерческими системами, начинают массово разворачивать бесплатные модели с открытым кодом на собственных серверах внутри компаний (on-premise).
По данным разработчика софта безопасности Solo.io, такие гиганты как T-Mobile, ADP и SAP все чаще предпочитают полный контроль над железом и данными, поскольку современный open source выполняет до 90% функций крупных коммерческих моделей, однако стоит значительно дешевле.
Сдвиг наглядно показывает статистика больших разработочных платформ. Компании Vercel и OpenRouter зафиксировали стремительный скачок трафика в направлении открытых нейросетей.
В частности, в прошлом месяце на открытые модели пришлось уже 29% всего объема данных, прошедших через сетевые шлюзы Vercel.
Учитывая, что даже Microsoft - главный инвестор OpenAI и Anthropic - призывает бизнес к осторожности, рынок корпоративного ИИ неизбежно движется в сторону децентрализации и защиты коммерческой тайны .