Канадську журналістку викрили на використанні ШІ для написання фейкових новин

Як викрили шахрайку?

Поширення великих мовних моделей призвело до того, що низькоякісний текст, необережно згенерований ШІ, проникає у безліч галузей – від юристів, які посилаються на вигадані штучним інтелектом судові справи, до музичних текстів. У світі журналістики ця технологія створює особливо серйозні проблеми, оскільки точність тут має особливе значення, пише 24 Канал з посиланням на Futurism.

Редактор Ніколас Г'юн-Браун, який працює в онлайн-журналі The Local у Торонто, детально описав, як його ледь не ввела в оману авторка, яка назвалася Вікторією Голді. Вона подала пропозицію щодо статті, стверджуючи, що раніше писала для кількох видань. Він зміг підтвердити її історію за допомогою швидкого пошуку в Google, який видав її роботи на сторінках зазначених видань.

Однак невдовзі почали з'являтися ознаки шахрайства:

• По-перше, він помітив у її текстах формулювання, які вважав типовою ознакою чат-ботів.
• Згодом Г'юн-Браун виявив, що численні цитати, використані Голді в її роботах, були повністю вигадані.

Щоб перевірити це, він звернувся до дизайнера Янг Ху, якого Голді цитувала у статті для видання Dwell. Ху повідомив, що взагалі ніколи не спілкувався з цією репортеркою і не надавав їй цю цитату. Те саме сталося й з професоркою Стерлінгського університету Елейн Сазерленд: "Цитата була написана не мною, і, наскільки я пам'ятаю, я ніколи не зустрічала Вікторію Голді й не розмовляла з нею", – сказала вона.

Інші редактори також стикалися з подібними невідповідностями. Колишня редакторка PS Ненсі Айнхарт зазначила Г'юн-Брауну, що, наскільки вона пам'ятає, статті за авторством Вікторії Голді "надто сильно запозичували" матеріал з інших публікацій. Айнхарт додала, що Г'юн-Браун був уже третім редактором, який контактував з нею щодо цієї авторки за останні кілька місяців, оскільки Голді, очевидно, активно розсилала свої пропозиції.

Коли він зв'язався з виданнями, де публікувалася Голді, кілька з них, включаючи Dwell і The Guardian, видалили її тексти, пише Ніколас Г'юн-Браун у своїй статті для The Local.

Цей інцидент є лише останнім прикладом того, як шахраї видають себе за фрилансерів, намагаючись змусити видання опублікувати їхні роботи, часто використовуючи вигадані цитати, приписані реальним людям. Навіть відомі видання, такі як Quartz і Wired, іноді стають жертвами цієї хитрості.

Галузь журналістики сьогодні страждає від масових звільнень. Шахраї користуються екосистемою, яка стала "унікально вразливою до шахрайства", каже Г'юн-Браун. Хоча редактор завжди намагався відповідати на продумані пропозиції, тепер йому важко відрізнити справжні роботи, оскільки він бачить у багатьох матеріалах лише "синтетичний блиск штучного інтелекту". Через це він боїться, що серед ШІ-сміття можуть бути поховані справді перспективні молоді автори, яких він не в змозі знайти.