Ваш ChatGPT может выдать корпоративные секреты: как избежать слива данных
Обычный запрос в ИИ может стать утечкой корпоративных данных. Сотрудники компаний регулярно передают чат-ботам письма, документы и другую чувствительную информацию, не удаляя частные детали.
РБК-Украина со ссылкой на LRT разобралась, как соблюдать цифровую гигиену и почему это важно.
Скрытая угроза в рабочей рутине
Желая просто улучшить стиль электронной почты или быстро проработать файл, работники могут копировать в чат-бот весь текст полностью.
Вместе с ним в публичные ИИ-модели попадают имена, номера телефонов, адреса, финансовые показатели и другие данные, которые вообще не нужны для работы по усовершенствованию текста.
Обычно под угрозой утечки представляют пароли или номера банковских карт, однако реальную опасность представляют обычные рабочие файлы:
- Черновики договоров содержат условия переговоров, ценовые предложения, финансовую политику и т.д.
- Переписка с партнерами раскрывает детали внутренних бизнес-процессов и планов по масштабированию.
- Внутренние отчеты содержат персональные данные клиентов и сотрудников.
Каждый отдельный фрагмент текста может показаться неважным. Однако ИИ способен составить из этих отдельных деталей, полностью детализированную картину о человеке или целой организации.
Правило "теста на публичность" и новые стандарты цифровой гигиены
При использовании публичных чат-ботов следует соблюдать четкий предел: если информация может быть использована для установления личности, доступа к финансам или раскрытия конфиденциальных соглашений, ему не место в окне диалога с ИИ.
Специалисты по кибербезопасности рекомендуют проводить простой "тест на публичность" перед отправкой любого текста: стоит честно ответить себе на вопрос, будете ли вы чувствовать себя спокойно, если этот текст внезапно окажется в открытом доступе в интернете.
Если ответ нет, отправлять его ИИ категорически запрещено .
Кроме того, важно различать инструменты :
Публичные чат-боты могут использовать входные данные для дальнейшего обучения своих моделей, а это создает риск утечки.
Корпоративные ИИ решения предоставляют полный контроль над данными, гарантируют конфиденциальность и не используют информацию компании для внешнего обучения.
Современная цифровая гигиена требует поменять подход к безопасности. Если раньше главной задачей была защита устройств от вирусов и хакеров, то сегодня не менее важно контролировать, какую информацию мы добровольно передаем технологиям .
В большинстве случаев текст достаточно просто обезличить - заменить реальные имена и названия на нейтральные обозначения типа "Клиент А" или "Компания Х", исключив точные цифры и контакты.
Нейросеть также качественно выполнит задачу, но риски утечки сведутся практически к нулю.