Контроль вместо анонимности: подрядчики OpenAI видят ваши разговоры в ChatGPT

Какие риски для пользователей?

Более 900 миллионов пользователей ChatGPT применяет чат-бот в качестве личного психотерапевта, цифрового друга или рабочего помощника, не подозревая о живом контроле.

Чем это чревато?

Утечка персональных данных. Хотя OpenAI пытается автоматически удалять личную информацию до того, как промпты попадут к оценщикам, в компании признают, что чувствительные детали все равно проходят сквозь фильтры.

Анонимность без гарантий . Контрактники не видят имен пользователей, однако содержание сообщений часто содержит идентифицирующую информацию.

Подтверждение от Anthropic. Журналисты выяснили, что подобную практику оценки реальных диалогов людьми для улучшения своих моделей также использует компания Anthropic.

Борьба с льстивой и судебные иски

Главная цель модераторов - оценивать качество ответов и корректировать поведение ИИ, чтобы сделать его более безопасным для общества.

Как это работает?

Запрет на антропоморфизацию. Подрядчики дают ChatGPT указания не выдавать себя за человека и избавляться от чрезмерной льстивости.

Предупреждение новых судебных процессов. Чрезмерная льстивость модели GPT-4o ранее привела к ряду трагических случаев и самоубийств пользователей - это привело к длительным судебным тяжбам против OpenAI.

Миф о самообучении. Ситуация опровергает представление о том, что ИИ совершенствуется исключительно благодаря автоматическому сбору данных из интернета или силам одних разработчиков.

Реакция сообщества и оценщиков

Сами модераторы отмечают, что люди даже не представляют, что их приватные разговоры с чат-ботом анализируют посторонние лица.

Несмотря на это, человеческий труд остается базовым элементом для исправления деструктивных моделей поведения алгоритмов.