ChatGPT під забороною? Наукова спільнота ввела жорсткі санкції

Найбільший у світі відкритий репозиторій наукових препринтів arXiv оголосив про нові жорсткі правила щодо використання штучного інтелекту під час підготовки наукових робіт. Платформа запровадила так зване «правило одного удару»: авторів, які опублікують статті з очевидними ознаками невичитаного ШІ-контенту, одразу блокуватимуть. Про це повідомляє «Главком» з посиланням на видання TechCrunch.

Адміністрація сервісу пояснила рішення різким збільшенням кількості робіт, у яких дослідники без перевірки вставляють фрагменти, створені великими мовними моделями (LLM). У деяких випадках до текстів потрапляли навіть технічні повідомлення чат-ботів.

Голова секції комп’ютерних наук arXiv Томас Діттеріх заявив, що якщо робота містить явні ознаки того, що автор не перевіряв результати генерації ШІ, то довіра до всього дослідження автоматично зникає.

Серед найпоширеніших проблем модератори називають вигадані джерела та фальшиві посилання у списках літератури. Йдеться про неіснуючі наукові статті, книги або навіть вигаданих учених, яких нейромережі можуть «галюцинувати» під час генерації тексту.

Окремою проблемою стали залишені у статтях системні репліки чат-ботів. Наприклад, модератори знаходили у наукових роботах фрази на кшталт: «Ось ваш підсумок на 200 слів. Бажаєте внести якісь зміни?» або «Дані в цій таблиці є ілюстративними – вставте сюди реальні цифри ваших експериментів».

Нова політика передбачає негайне відсторонення порушників від платформи терміном на один рік. Після завершення блокування повернення до arXiv також буде ускладненим. Наступні роботи таких авторів публікуватимуть лише після проходження повноцінного рецензування в іншому авторитетному науковому виданні.

Для багатьох учених це означатиме втрату можливості швидко поширювати свої нові дослідження серед наукової спільноти. Саме оперативна публікація препринтів тривалий час залишалася головною перевагою arXiv.

Водночас адміністрація платформи наголосила, що повної заборони на використання штучного інтелекту не вводять. Нейромережі дозволено застосовувати як допоміжний інструмент для редагування, структурування чи покращення тексту. Однак остаточну відповідальність за зміст роботи нестиме виключно автор.

Усі випадки порушень проходитимуть багаторівневу перевірку. Спочатку підозрілий матеріал фіксуватиме модератор, після чого рішення має особисто підтвердити керівник відповідної секції. Автори також матимуть право подати апеляцію.