Один копипаст из ChatGPT может закрыть доступ к науке: что решил arXiv
Ученые рискуют потерять профессиональную репутацию из-за ИИ (фото: Magnific)
Популярная международная платформа научных публикаций arXiv объявила о радикальных мерах борьбы против безответственного использования нейросетей.
Об этом сообщает РБК-Украина со ссылкой на TechCrunch.
Крупнейший в мире открытый репозиторий научных препринтов arXiv серьезно ужесточает правила модерации работ ученых. Руководство сервиса официально утвердило "правило одного удара": если исследователи пришлют статью с явными признаками непроверенного сгенерированного текста, они мгновенно потеряют доступ к платформе.
Почему arXiv объявил войну ИИ?
Проблема достигла критической черты, когда авторы начали массово и слепо копировать абзацы из больших языковых моделей (LLM) без всякой вычитки.
"Если представленная работа содержит неопровержимые доказательства того, что авторы вообще не проверяли результаты генерации ИИ, это означает, что мы автоматически не можем доверять ни одному слову в этом исследовании", - заявил Томас Диттерих, председатель секции компьютерных наук arXiv.
К списку таких неоспоримых доказательств модераторы относят:
"Галлюцинированные" источники - вымышленные нейросетью названия книг, статей и несуществующие имена ученых в списке литературы.
Забытые системные сообщения - когда авторы умудряются копировать в текст работы технические реплики от самого чат-бота, вроде: "Вот ваш итог на 200 слов. Хотите внести какие-то изменения?" или "Данные в этой таблице являются иллюстративными - вставьте сюда реальные цифры ваших экспериментов".
Что предусмотрено в качестве наказания?
Новая санкционная политика предусматривает немедленное отстранение нарушителей от сайта. Авторы, которых поймают с поличным, получат полный бан на arXiv сроком на 1 год.
Более того, вернуться на платформу после завершения наказания будет чрезвычайно сложно. Все последующие работы этих исследователей arXiv согласится опубликовать только после того, как они сначала пройдут официальное жесткое рецензирование и будут приняты каким-то другим авторитетным научным изданием. Для ученых это фактически означает блокирование возможности быстро делиться своими свежими работами с коллегами.
Процесс рассмотрения дел будет иметь несколько уровней защиты от ошибок: сначала подозрительную статью фиксирует модератор, после чего председатель профильной секции обязан лично подтвердить вину автора. При этом ученые сохранят за собой право подать официальную апелляцию на решение о блокировке.
Наука становится независимой
Важно подчеркнуть, что arXiv не запрещает использовать искусственный интеллект как вспомогательный инструмент для редактирования или структурирования. Позиция администрации заключается в том, что авторы обязаны нести абсолютную персональную ответственность за финальное содержание.
Ошибки, плагиат, предвзятые выводы или фейковые ссылки остаются на совести исследователя, независимо от того, как именно этот текст создавался.
Радикальные, но необходимые шаги совпали с исторической реорганизацией самой платформы. После более чем 20 лет пребывания под управлением Корнелльского университета, arXiv превращается в полностью независимую некоммерческую организацию. Этот статус позволит привлекать значительно больше финансирования и грантов, которые будут направлены на разработку новейших инструментов борьбы с ИИ-мусором и очистку научного пространства от фальсификаций.
