OpenAI залучає математиків: вчені б'ють на сполох через швидкість розвитку ШІ
OpenAI залучає до співпраці світову математичну спільноту - компанія створила незалежну консультативну групу з питань математики та ШІ. Новий орган працюватиме при Інституті перспективних досліджень у Прінстоні.
Про це інформує РБК-Україна з посиланням на OpenAI.
Прорив ШІ: чому науковці занепокоєні?
Тренування нової внутрішньої моделі розпочалося 28 серпня, і за короткий термін алгоритм не лише розв’язав одну з проблем тисячоліття, Нав’є -Стокса, а й подолав понад 100 давніх відкритих задач у більшості галузей математики.
Стрімкий темп прогресу здивував навіть власних фахівців OpenAI - це спричинило внутрішні дискусії щодо безпечного та відповідального оприлюднення результатів.
Водночас наукова спільнота висловила занепокоєння.
У відкритому листі 25 лауреатів премії Філдса наголосили на ризиках використання складних математичних проблем як звичайних бенчмарків для ШІ.
Вчені застерегли, що така гонитва лабораторій за гучними анонсами загрожує традиційній інтелектуальній праці та академічним стандартам.
Склад та повноваження незалежної ради
У відповідь на критику OpenAI провідних науковців до консультативної групи. До її початкового складу увійшли 9 видатних математиків, серед яких Франсуа Шарль, Камілло Де Лелліс, Тімоті Гауерс, Мартін Хайрер, Ніхіл Шрівастава, Ульріке Тіллманн, Раві Вакіл, Едвард Віттен та Мелані Матчетт Вуд.
Консультативна група працюватиме на незалежних засадах. До сфери її компетанції входитимуть
Оцінка та комунікація - аналіз наукової цінності нових результатів ШІ та координація їх публікації.
Академічні стандарти - надання рекомендацій щодо дотримання професійної етики та інтеграції інструментів ШІ у навчальні та дослідницькі процеси.
Незалежність висловлювань - члени ради працюють безкоштовно, можуть публічно критикувати вплив на математику та давати поради без офіційного запиту.
Автономія - група самостійно формує свій склад і розширює членство на власний розсуд.
Межі впливу на передові розробки
Попри широкі дорадчі права, група не матиме безпосереднього впливу на динаміку внутрішніх процесів розробки в OpenAI.
Як уточнили в компанії та в Інституті перспективних досліджень, раді не доручено регулювати темпи внутрішнього прогресу ШІ-моделей, а вся відповідальність за кінцеві рішення та розгортання технологій залишається за самою компанією.