Битва двух LLM: Reddit объявил войну ИИ с помощью другого ИИ

Распространять спам по всему интернету стало проще, чем когда-либо, поскольку мощные крупные языковые модели (LLM) стали легкодоступными. Reddit сообщил, что разработал инструменты на основе LLM для сокращения количества спама, значительная часть которого, собственно, была создана с помощью тех же самых LLM.

Это несколько иронично, но в эпоху искусственного интеллекта у платформ нет иного выбора, кроме как бороться с огнем. По данным платформы, Reddit ежедневно блокирует 23 миллиона просмотров спама и выявляет около 25 000 новых спам-публикаций и комментариев. Социальные платформы уже много лет разрабатывают автоматизированные инструменты для борьбы со спамом, однако Reddit заявляет, что эти обновленные инструменты выявляют спам с большей эффективностью.

Компания утверждает, что сократила количество случаев, когда пользователи сталкивались со спамом, на 20 % в период с января по март по сравнению с предыдущими тремя месяцами. Reddit — не единственный: такие платформы, как YouTube, Meta, TikTok и Instagram, позволяют пользователям публиковать контент, созданный с помощью искусственного интеллекта, при условии, что они указывают его происхождение, а TikTok пошел еще дальше и позволяет пользователям самостоятельно выбирать, сколько контента, созданного ИИ, они хотят видеть.

В то же время эксперты по вопросам платформ неоднократно напоминали, что модерация контента с помощью искусственного интеллекта должно сочетаться с ручной модерацией, чтобы добиться максимально эффективных результатов.

Усиление борьбы со спамом происходит на фоне стремительного роста объемов ИИ-контента в интернете. Эксперты отмечают, что современные крупные языковые модели значительно удешевили и ускорили массовое создание убедительных текстов, из-за чего платформам всё чаще приходится применять системы на базе ИИ для автоматического выявления скоординированных кампаний, бот-сетей и манипулятивного контента.

Источник: TechCrunch