Новый инструмент пропаганды: Россия внедряет в данные ИИ кремлевские нарративы и ложь

Развитие новых технологий предсказуемо привело к появлению целой индустрии дезинформации. Особенно она распространилась в России в связи с войной в Украине и необходимостью влиять на умы людей не только в своей стране, но и во всем мире. Для более широкого и глубокого охвата аудитории  используется искусственный интеллект, и даже не напрямую, а путем введения в данные чат-ботов искусственного интеллекта абсолютно ложные нарративы.

Московская дезинформационная сеть под названием «Правда» , сообщает мониторинговое агентство NewsGuard, осуществляет масштабную стратегию, намеренно проникая в полученные данные чат-ботов искусственного интеллекта, публикуя ложные утверждения и пропаганду с целью повлиять на ответы моделей ИИ на темы в новостях, а не ориентируясь на читателей-людей. Наводняя результаты поиска и веб-сканеры прокремлевской ложью, сеть искажает то, как большие языковые модели обрабатывают и представляют новости и информацию.

Результат оказался ошеломляющим: огромное количество российской пропаганды — 3 600 000 статей в 2024 году — теперь включено в выпуски западных систем ИИ, заражая их ответы ложными утверждениями и пропагандой.

В январе прошлого года приехавший из США в Россию и ставший кремлевским пропагандистом американец Джон Марк Дуган на конференции российских чиновников сказал: «Проталкивая эти российские нарративы с российской точки зрения, мы можем фактически изменить мировой ИИ». И его предложение успешно воплощается в жизнь.                           

Проверка NewsGuard показала, что ведущие чат-боты ИИ повторяли ложные нарративы, отмытые сетью «Правда» в 33 процентах случаев, подтверждая обещание Дугана о новом мощном канале распространения дезинформации Кремля.

 Расследователи NewsGuard протестировали 10 ведущих чат-ботов ИИ - ChatGPT-4o от OpenAI, Smart Assistant от You.com, xAI's Grok, Inflection's Pi, Mistral's le Chat, Microsoft Copilot, Meta AI, Claud от Anthropic, Google Gemini и движок ответов Perplexity. Все они были заражены дезинформацией. 

«Долгосрочные риски — политические, социальные и технологические —  высоки», — заключили в ASP. «Чем больше набор пророссийских нарративов, тем больше вероятность того, что он будет интегрирован в LLM».

Сеть «Правда» не производит оригинального контента. Вместо этого она функционирует как машина для отмывания кремлевской пропаганды, агрегируя контент из российских государственных СМИ, прокремлевских влиятельных лиц, а также правительственных учреждений и чиновников через широкий набор, казалось бы, независимых веб-сайтов.

NewsGuard обнаружил, что сеть «Правды» распространила в общей сложности 207 доказуемо ложных заявлений, выступая в качестве центрального центра для отмывания дезинформации. Они варьируются от утверждений о том, что США управляют секретными лабораториями биологического оружия в Украине, до сфабрикованных нарративов, продвигаемых американским беглецом, ставшим кремлевским пропагандистом Джоном Марком Дуганом, утверждающим, что президент Украины Владимир Зеленский злоупотребил военной помощью США, чтобы накопить личное состояние. 

Кстати, эта сеть веб-сайтов не имеет отношения к веб-сайтам, использующим домен Pravda.ru, которые публикуются на английском и русском языках и принадлежат Вадиму Горшенину, самопровозглашенному стороннику президента России Владимира Путина, который ранее работал в газете «Правда» в бывшем Советском Союзе.

Сеть "Правда", известная также как Portal Kombat, была запущена в апреле 2022 года после полномасштабного вторжения России в Украину 24 февраля . Он был впервые выявлен в феврале 2024 года французским правительственным агентством Viginum, которое отслеживает зарубежные кампании по дезинформации. С тех пор сеть значительно расширилась, ориентируясь на 49 стран на десятках языков в 150 областях, по данным NewsGuard и других исследовательских организаций. 

Сеть распространяет свои ложные утверждения на десятках языков в разных географических регионах, что делает их более заслуживающими доверия и широко распространенными по всему миру для моделей ИИ. Из 150 сайтов в сети «Правда» примерно 40 — это русскоязычные сайты, публикующие под доменными именами, ориентированные на конкретные города и регионы Украины, в том числе News-Kiev.ru, «Херсон-Ньюс.ру» и «Donastone-News.ru». Приблизительно 70 сайтов нацелены на Европу и публикуются на языках, включая английский, французский, чешский, ирландский и финский. Приблизительно 30 объектов ориентированы на страны Африки, Тихого океана, Ближнего Востока, Северной Америки, Кавказа и Азии, включая Буркина-Фасо, Нигер, Канаду, Японию и Тайвань. Остальные сайты разделены по темам, с такими названиями, как NATO.News-Pravda.com, Trump.News-Pravda.com и Macron.News-Pravda.com.

 По данным ViginumViginum, сеть «Правда» управляется компанией TigerWeb, IT-компанией, базирующейся в оккупированном Россией Крыму. TigerWeb принадлежит Евгению Шевченко, веб-разработчику крымского происхождения, который ранее работал в Krymtechnologii, компании, которая создавала веб-сайты для поддерживаемого Россией крымского правительства.

NewsGuard оценила уровень доверия к сети в 7,5/100 от , что означает, что пользователям настоятельно рекомендуется быть максимально осторожными с предлагаемой информацией - она лживая.

Напомним, пока мир думает, как использовать продукты искусственного интеллекта (ИИ) для лучшего противодействия дезинформации с минимальным вмешательством человека, Россия уже использует ИИ для информационных операций.

Об этом заявил руководитель Центра противодействия дезинформации СНБО Андрей Коваленко: «В ближайшие годы мир изменится. Большую роль будут играть владельцы крупных технологических компаний-разработчиков ИИ, а также соцсетей. Они будут определять направления регулирования, противодействия и вообще то, что такое пропаганда. Не исключаю, что роль западных правительств может стать слабее перед ними», - отметил Коваленко.

«Обученный» искусственный интеллект будет вносить в общество мысли, которые нужны противнику. Мы уже видим такие примеры-вбросы с российской стороны в украинское инфопространство. И, к сожалению, пока нет возможности научить людей отличать сгенерированные ИИ подобия. А с развитием технологий это будет сделать и вообще почти невозможно.