Битва двох LLM: Reddit оголосив війну ШІ за допомогою іншого ШІ

Поширювати спам по всьому інтернету стало простіше, ніж будь-коли, оскільки потужні великі мовні моделі (LLM) стали легкодоступними. Reddit повідомив, що розробив інструменти на основі LLM для скорочення кількості спаму, значна частина якого, власне, була створена за допомогою тих самих LLM.

Це дещо іронічно, але в епоху штучного інтелекту платформи не мають іншого вибору, окрім як боротися з вогнем. За даними платформи, Reddit щодня блокує 23 мільйони переглядів спаму та виявляє близько 25 000 нових спам-публікацій і коментарів. Соціальні платформи вже багато років розробляють автоматизовані інструменти для боротьби зі спамом, однак Reddit заявляє, що ці оновлені інструменти виявляють спам із вищою ефективністю.

Компанія стверджує, що зменшила кількість випадків, коли користувачі стикалися зі спамом, на 20% у період із січня по березень порівняно з попередніми трьома місяцями. Reddit не єдиний: такі платформи, як YouTube, Meta, TikTok та Instagram, дозволяють користувачам публікувати контент, створений за допомогою штучного інтелекту, за умови, що вони повідомляють про його походження, а TikTok пішов ще далі й дозволяє користувачам самостійно обирати, скільки контенту, створеного ШІ, вони хочуть бачити.

Водночас експерти з питань платформ неодноразово нагадували, що модерація контенту за допомогою штучного інтелекту має поєднуватися з людською модерацією, щоб досягти максимально ефективних результатів.

Посилення боротьби зі спамом відбувається на тлі стрімкого зростання обсягів ШІ-контенту в інтернеті. Експерти зазначають, що сучасні великі мовні моделі значно здешевили та прискорили масове створення переконливих текстів, через що платформам дедалі частіше доводиться застосовувати системи на базі ШІ для автоматичного виявлення скоординованих кампаній, бот-мереж і маніпулятивного контенту.

Джерело: TechCrunch