Сеть "Правда": как Россия манипулирует западными чат-ботами для своей пропаганды

Согласно исследованию организации NewsGuard, более трети ответов диалоговых помощников на основе искусственного интеллекта, таких как ChatGPT, содержали пророссийскую дезинформацию.

По мнению исследователей, за этим стоит московская сеть "Правда", которая распространяет прокремлевскую пропаганду по всему миру, пишет Der Spiegel.

"Огромный объем российской пропаганды — 3 600 000 статей в 2024 году — теперь включается в результаты западных систем искусственного интеллекта, заражая их ответы ложными утверждениями и пропагандой", — пишут исследователи в своем отчете.

Для исследования NewsGuard изучила десять наиболее важных приложений искусственного интеллекта, включая ChatGPT-4, Smart Assistant, Grok, Copilot, Meta AI, Google Gemini и Perplexity. Все они воспроизводили дезинформацию, распространяемую "Правдой". Семь чат-ботов даже ссылались на конкретные статьи "Правд" в качестве источников.

По мнению исследователей, "Правда" манипулирует чат-ботами, заполняя большие языковые модели (LLM) приложений искусственного интеллекта, на основе которых генерируются ответы, своими фальшивыми новостями. Этот метод называется "LLM grooming". Исследование показывает, что чат-боты ИИ не только подхватывают дезинформацию, циркулирующую в интернете, но и целенаправленно подвергаются влиянию.

В другом исследовании некоммерческая организация American Sunlight Project предупреждает о растущем охвате сети "Правда", также известной как "Portal Kombat".

"Способность Pravda Network распространять дезинформацию в таких масштабах беспрецедентна, а ее потенциал влияния на системы искусственного интеллекта делает эту угрозу еще более опасной", — заявила Нина Янкович, исполнительный директор American Sunlight Project. "По мере того как расширяются масштабы и изощренность российского влияния, целостность демократических дискуссий по всему миру оказывается под прямой угрозой".

Опасность от российской дезинформации особенно велика, потому что США в настоящее время ничего не делают для противодействия ей, предупреждают эксперты. Министр обороны США Пит Хегсет распорядился временно прекратить кибер-операции против России. В настоящее время все операции США против Москвы пересматриваются.

Сеть "Правда" была основана в апреле 2022 года после начала конфликта на Украине и с тех пор постоянно расширяется. По данным NewsGuard, сейчас она охватывает 49 стран и десятки языков.

"Правда" не производит собственный контент, а использует статьи российских государственных СМИ или лояльных Кремлю авторитетов, которые сеть распространяет миллионы раз через такие платформы, как X, Telegram и Bluesky.

В одном из ложных сообщений, например, утверждается, что США содержат в Украине секретные лаборатории по производству биооружия.