OpenAI привлекает математиков: ученые бьют тревогу из-за скорости развития ИИ
OpenAI привлекает к сотрудничеству мировое математическое сообщество - компания создала независимую консультативную группу по математике и ИИ. Новый орган будет работать при Институте перспективных исследований в Принстоне.
Об этом информирует РБК-Украина со ссылкой на OpenAI.
Прорыв ИИ: почему ученые обеспокоены?
Тренировка новой внутренней модели началась 28 августа, и за короткий срок алгоритм не только решил одну из проблем тысячелетия Навье-Стокса, но и преодолел более 100 давних открытых задач в большинстве отраслей математики.
Стремительный темп прогресса удивил даже собственных специалистов OpenAI - это повлекло за собой внутренние дискуссии относительно безопасного и ответственного обнародования результатов.
В то же время научное сообщество выразило обеспокоенность.
В открытом письме 25 лауреатов премии Филдса отметили риски использования сложных математических проблем в качестве обычных бенчмарков для ИИ.
Ученые предостерегли, что такая погоня лабораторий за громкими анонсами грозит традиционному интеллектуальному труду и академическим стандартам.
Состав и полномочия независимого совета
В ответ на критику OpenAI ведущих ученых в консультативную группу. В ее первоначальный состав вошли 9 выдающихся математиков, среди которых Франсуа Шарль, Камилло Де Леллис, Тимоти Гауэрс, Мартин Хайрер, Нихил Шривастава, Ульрике Тиллманн, Рави Вакил, Эдвард Виттен и Мелани Матчетт Вуд.
Консультативная группа будет работать на независимых началах. В сферу ее компетанции будут входить
Оценка и коммуникация - анализ научной ценности новых результатов ИИ и координация их публикации.
Академические стандарты - предоставление рекомендаций по соблюдению профессиональной этики и интеграции инструментов ИИ в учебные и исследовательские процессы.
Независимость высказываний - члены совета работают бесплатно, могут публично критиковать влияние на математику и давать советы без официального запроса.
Автономия - группа самостоятельно формирует свой состав и расширяет членство по собственному усмотрению.
Пределы влияния на передовые разработки
Несмотря на широкие совещательные права, группа не будет оказывать непосредственного влияния на динамику внутренних процессов разработки в OpenAI.
Как уточнили в компании и Институте перспективных исследований, рады не поручено регулировать темпы внутреннего прогресса ИИ-моделей, а вся ответственность за конечные решения и развертывание технологий остается за самой компанией.