Один копіпаст із ChatGPT може закрити доступ до науки: що вирішив arXiv

Найбільший у світі відкритий репозиторій наукових препринтів arXiv серйозно посилює правила модерації доробків вчених. Керівництво сервісу офіційно затвердило "правило одного удару": якщо дослідники надішлють статтю з явними ознаками неперевіреного згенерованого тексту, вони миттєво втратять доступ до платформи.

Чому arXiv оголосив війну ШІ?

Проблема досягла критичної межі, коли автори почали масово і сліпо копіювати абзаци з великих мовних моделей (LLM) без жодної вичитки.

"Якщо подана робота містить незаперечні докази того, що автори взагалі не перевіряли результати генерації ШІ, це означає, що ми автоматично не можемо довіряти жодному слову у цьому дослідженні", - заявив Томас Діттеріх, голова секції комп'ютерних наук arXiv.

До списку таких незаперечних доказів модератори відносять:

"Галюциновані" джерела - вигадані нейромережею назви книг, статей та неіснуючі імена вчених у списку літератури.

Забуті системні повідомлення - коли автори примудряються копіювати у текст роботи технічні репліки від самого чат-бота, на кшталт: "Ось ваш підсумок на 200 слів. Бажаєте внести якісь зміни?" або "Дані в цій таблиці є ілюстративними - вставте сюди реальні цифри ваших експериментів".

Що передбачено як покарання?

Нова санкційна політика передбачає негайне відсторонення порушників від сайту. Автори, яких спіймають на гарячому, отримають повний бан на arXiv терміном на 1 рік.

Ба більше, повернутися на платформу після завершення покарання буде надзвичайно складно. Всі наступні роботи цих дослідників arXiv погодиться опублікувати лише після того, як вони спочатку пройдуть офіційне жорстке рецензування та будуть прийняті якимось іншим авторитетним науковим виданням. Для вчених це фактично означає блокування можливості швидко ділитися своїми свіжими роботами з колегами.

Процес розгляду справ матиме декілька рівнів захисту від помилок: спочатку підозрілу статтю фіксує модератор, після чого голова профільної секції зобов'язаний особисто підтвердити провину автора. При цьому вчені збережуть за собою право подати офіційну апеляцію на рішення про блокування.

Наука стає незалежною

Важливо підкреслити, що arXiv не забороняє використовувати штучний інтелект як допоміжний інструмент для редагування чи структурування. Позиція адміністрації полягає у тому, що автори зобов'язані нести абсолютну персональну відповідальність за фінальний зміст.

Помилки, плагіат, упереджені висновки чи фейкові посилання залишаються на совісті дослідника, незалежно від того, як саме цей текст створювався.

Радикальні, проте необхідні кроки збіглися з історичною реорганізацією самої платформи. Після більш ніж 20 років перебування під управлінням Корнелльського університету, arXiv перетворюється на повністю незалежну некомерційну організацію. Цей статус дозволить залучати значно більше фінансування та грантів, які будуть направлені на розробку новітніх інструментів боротьби з ШІ-сміттям та очищення наукового простору від фальсифікацій.