От утечки данных до увольнения: 5 вещей, которые категорически нельзя писать в ChatGPT
Переписка с ChatGPT может иметь плохие последствия для пользователя - информацию из чатов могут запросить в суде или использовать против человека.
РБК-Украина собрала пять ситуаций, в которых делиться персональными данными с ИИ особенно рискованно.
Пароли, номера документов и учетные данные
Наибольший риск для личной безопасности возникает, когда пользователи делятся с чат-ботом личной информацией - паролями, одноразовыми кодами подтверждения, номерами паспортов, банковских карт, а также фотографиями или сканами документов.
Основные угрозы для персональных данных:
Сохранение по умолчанию: ChatGPT по умолчанию запоминает предоставленные данные - они могут храниться на серверах или неожиданно появляться в других чатах.
Индексация поисковиками: в июле прошлого года в результатах поиска Google оказались почти 4 500 частных чатов из-за случайно активированной функции публичного доступа.
Судебные предписани : в рамках иска за нарушение авторских прав OpenAI обязали сохранять абсолютно все чаты пользователей, включая удаленные и временные, что делает их потенциально доступными для третьих лиц.
Конфиденциальная рабочая информация и код
Загрузка рабочих документов или исходного кода на сторонние платформы является прямой угрозой для корпоративной безопасности и основанием для увольнения.
Громкие случаи утечки рабочих данных:
Скандал в DHS: бывший временный директор Агентства по кибербезопасности и инфраструктурной безопасности США Мадху Готтумуккала загрузил документы с пометкой "для служебного пользования" в публичную версию ChatGPT.
Запрет в Samsung: корейский техногигант полностью запретил использование генеративного ИИ после того, как инженеры вставили внутренний исходный код в чат.
Правовой статус: данные, отправленные на внешние серверы, трудно удалить, а переписка может использоваться для обучения следующих ИИ-моделей.
Медицинские советы и самолечение
Обновленные правила OpenAI прямо запрещают использование сервиса для получения медицинских консультаций, ведь на компанию не распространяются законы о врачебной тайне (например, HIPAA).
Опасность медицинских консультаций по ИИ
Отсутствие защитных барьеров: исследование Северо-Восточного университета показало, что обходные ИИ-системы не срабатывают по запросам относительно расстройств пищевого поведения, бессонницы или биполярного расстройства.
Роковые ошибки: 60-летний мужчина провел три недели в больнице после того, как ChatGPT посоветовал ему заменить поваренную соль ядовитым бромидом натрия для уменьшения уровня хлоридов в диете.
Психологическая поддержка и терапия
По оценкам OpenAI, около 0,15 процента недельной аудитории чат-бота демонстрируют признаки потенциального планирования самоубийства, а сотни тысяч других находятся в состоянии психоза или мании.
Почему ИИ не может заменить терапевта?
Судебные иски: родители 16-летнего Адама Рейна подали иск против OpenAI, обвиняя чат-бот в подкреплении суицидальных мыслей их сына перед смертью.
Подкрепление заблуждения: алгоритмы склонны к льстиве и подтверждению убеждений пользователя – это может усиливать навязчивые идеи вместо их корректировки.
Законодательные ограничения: штаты Иллинойс, Невада и Мэн уже приняли законы, прямо запрещающие ИИ оказывать терапевтические услуги или принимать медицинские решения.
Юридические консультации и судебные дела
По данным исследователя Демьена Шарлотена, в мире зафиксировано более 2 000 судебных решений, где фигурируют вымышленные ChatGPT цитаты, дела или аргументы.
Риски использования ИИ в правовой сфере:
Судебные штрафы: судьи начинают активно штрафовать как истцов, защищающих себя сами (1175 случаев), так и профессиональных адвокатов (815 случаев) за использование вымышленных ИИ-материалов.
Отсутствие адвокатской тайны: любые подробности дела, введенные в ChatGPT, не защищены законом и могут быть истребованы адвокатами противоположной стороны в ходе судебного процесса.