Контроль замість анонімності: підрядники OpenAI бачать ваші розмови у ChatGPT
Людська праця досі залишається головним драйвером OpenAI (фото: Magnific)
OpenAI залучила сотні сторонніх підрядників, які переглядають реальні розмови користувачів із ChatGPT.
Про це інформує РБК-Україна, спираючись на розслідування 404 Media.
Які ризики для користувачів?
Більшість із понад 900 мільйонів користувачів ChatGPT застосовує чат-бот як особистого психотерапевта, цифрового друга чи робочого помічника, не підозрюючи про живий контроль.
Чим це загрожує?
Витік персональних даних. Хоча OpenAI намагається автоматично видаляти особисту інформацію до того, як промпти потраплять до оцінювачів, у компанії визнають те, що чутливі деталі все одно проходять крізь фільтри.
Анонімність без гарантій. Контрактники не бачать імен користувачів, проте сам зміст повідомлень часто містить ідентифікуючу інформацію.
Підтвердження від Anthropic. Журналісти з'ясували, що подібну практику оцінювання реальних діалогів людьми для покращення своїх моделей також використовує компанія Anthropic.
Боротьба з улесливістю та судові позови
Головна мета модераторів - оцінювати якість відповідей і коригувати поведінку ШІ, аби зробити його безпечнішим для суспільства.
Як це працює?
Заборона на антропоморфізацію. Підрядники інструктують ChatGPT не вдавати із себе людину та позбавлятися надмірної улесливості.
Попередження нових судових процесів. Надмірна улесливість моделі GPT-4o раніше призвела до низки трагічних випадків і самогубств користувачів - це призвело до тривалих судових позовів проти OpenAI.
Міф про самонавчання. Ситуація спростовує уявлення про те, що ШІ вдосконалюється виключно завдяки автоматичному збору даних з інтернету чи силами самих лише розробників.
Реакція спільноти та оцінювачів
Самі модератори зазначають, що люди навіть не уявляють, що їхні приватні розмови з чат-ботом аналізують сторонні особи.
Попри це, людська праця наразі залишається базовим елементом для виправлення деструктивних моделей поведінки алгоритмів.
