ШІ не зміг виміряти красу: вчені виявили приховані упередження алгоритмів
Дослідники Школи наук про дані Вірджинського університету з'ясували, що ШІ не здатен об'єктивно оцінювати людську зовнішність. Замість математичних формул привабливості нейромережі транслюють приховані упередження.
Про це інформує РБК-Україна з посиланням на матеріал University of Virginia School of Data Science.
Вчені перевірили, чи справді комп'ютерний зір може знайти ідеал краси через математичну формулу "золотого перетину". Для цього вони порівняли реальні фотографії облич із математичними еталонами.
Результати аналізу виявили критичну проблему: головним чинником, що впливав на оцінку ШІ, були демографічні особливості людей, а не математичні пропорції.
З'ясувалося, що на вихідні дані ШІ найбільше впливає походження людини, а не симетрія її обличчя. Моделі фактично віддзеркалювали смаки та упередження розробників, які збирали дані для навчання.
Дослідники попереджають: використання таких алгоритмів у соцмережах або системах безпеки може призвести до масової дискримінації, оскільки об'єктивності у таких оцінках не існує.
Яка реакція наукової спільноти?
Професор Прінс Афріє наголошує, що спроби автоматизувати оцінку зовнішності лише посилюють соціальні стереотипи. Оскільки ШІ навчається на людських даних, він копіює та масштабує людські помилки. Це створює замкнене коло, де суб'єктивні погляди стають цифровим стандартом.
"Цей проєкт підкреслює ключове обмеження моделей ШІ, які настільки ж об'єктивні, як і дані, на яких вони навчаються", - зазначає Афріє.
"Спроби кількісно оцінити красу часто говорять радше про репрезентативність та упередженість, ніж про будь-який універсальний стандарт", - додає науковець.
Які масштаби проблеми?
ШІ-технології вже працюють у б'юті-фільтрах смартфонів та біометричних інструментах. Якщо дані для навчання були одноманітними, ШІ вважатиме "красивим" лише один тип обличчя.
На думку вчених, це створює небезпечний прецедент у цифровій культурі і викривлює сприйняття реальності. Фактично ШІ змушує користувачів підлаштовуватися під штучні стандарти.
Дослідники закликають розробників урізноманітнити вибірки даних та критично оцінювати припущення ШІ-моделей.
Вони вважають, що людське сприйняття формується культурою, контекстом та досвідом. Відтак краса не піддається жодній універсальній формулі, а це демонструє чіткі ліміти ШІ у розумінні суб'єктивних людських рис.
"Математичні патерни можуть описувати світ, однак вони нездатні оцифрувати естетику", - резюмували науковці.