Популярний ШІ нав’язує небезпечні стереотипи: що виявили вчені
Популярні моделі масово транслюють приховані упередження, які майже неможливо помітити звичайному користувачу. Від асоціацій "лікар - він" до серйозних помилок у лікуванні жінок - ШІ не просто копіює дані, а структурує їх таким чином, щоб закріплювати соціальну нерівність.
Про це інформує РБК-Україна з посиланням на наукове дослідження, опубліковане Університетом Амстердаму.
Як ШІ вчиться дискримінації?
Дослідник Оскар ван дер Вал виявив, що упередження у ШІ значно глибші, ніж здається. Традиційні тести їх пропускають, адже нейромережі маскують стереотипи під контекст.
Які загрози виникають?
Ризик у медицині - ШІ, навчений переважно на даних чоловіків, може ігнорувати симптоми у жінок або ставити помилкові діагнози людям різного етнічного походження.
Глобальний вплив - ШІ-моделі структурують інформацію так, що стереотипи зберігаються у більш специфічних ділянках коду. Науковці певні: це лише підсилює стереотипне "мислення" ШІ з часом.
Позбавлення об’єктивності - оскільки ці процеси приховані, користувачі підсвідомо починають сприймати викривлені відповіді ШІ як істину.
Чи можна зупинити ШІ-маніпуляції?
Вчені довели: виправити ситуацію будь-яким "трюком" неможливо, проте точкові втручання дають відчутний результат.
Що пропонують науковці:
Реалістичні сценарії - ШІ перевірятимуть через складні медичні кейси, де зміна лише одного параметра (наприклад, статі пацієнта) миттєво викриває приховану дискримінацію.
Адресне "лікування" коду - знаючи, де саме у ШІ-моделі локалізовано упередження, розробники можуть коригувати ці зони без втрати якості генерування тексту.
Контроль на багатьох рівнях відразу - безпечний ШІ потребує перевірки на всіх етапах: від відбору даних для навчання до моменту видачі відповіді користувачу.
"Сьогодні суспільство стає критично залежним від алгоритмів, які можуть непомітно керувати нашим мисленням", - попереджають дослідники.
Робота амстердамських вчених доводить: якщо не почати очищення мовних моделей від стереотипів вже зараз, ШІ перетвориться з помічника на джерело масових маніпуляцій та небезпечних помилок у життєво важливих сферах.