Мережа "Правда": як Росія маніпулює західними чат-ботами для своєї пропаганди

Згідно з дослідженням організації NewsGuard, понад третина відповідей діалогових помічників на основі штучного інтелекту, таких як ChatGPT, містили проросійську дезінформацію.

На думку дослідників, за цим стоїть московська мережа "Правда", яка поширює прокремлівську пропаганду по всьому світу, пише Der Spiegel.

"Величезний обсяг російської пропаганди — 3 600 000 статей у 2024 році — тепер включається в результати західних систем штучного інтелекту, заражаючи їхні відповіді неправдивими твердженнями та пропагандою", — пишуть дослідники у своєму звіті.

Для дослідження NewsGuard вивчила десять найбільш важливих додатків штучного інтелекту, включаючи ChatGPT-4, Smart Assistant, Grok, Copilot, Meta AI, Google Gemini та Perplexity. Усі вони відтворювали дезінформацію, яку поширює "Правда". Сім чат-ботів навіть посилалися на конкретні статті "Правд" як на джерела.

На думку дослідників, "Правда" маніпулює чат-ботами, заповнюючи великі мовні моделі (LLM) додатків штучного інтелекту, на основі яких генеруються відповіді, своїми фальшивими новинами. Цей метод називається "LLM grooming". Дослідження показує, що чат-боти ШІ не тільки підхоплюють дезінформацію, що циркулює в інтернеті, але й цілеспрямовано піддаються впливу.

В іншому дослідженні неприбуткова організація American Sunlight Project попереджає про зростаюче охоплення мережі "Правда", також відомої як "Portal Kombat".

"Здатність Pravda Network поширювати дезінформацію в таких масштабах безпрецедентна, а її потенціал впливу на системи штучного інтелекту робить цю загрозу ще більш небезпечною", — заявила Ніна Янкович, виконавчий директор American Sunlight Project. "У міру того як розширюються масштаби і витонченість російського впливу, цілісність демократичних дискусій по всьому світу опиняється під прямою загрозою".

Небезпека від російської дезінформації особливо велика, тому що США наразі нічого не роблять для протидії їй, попереджають експерти. Міністр оборони США Піт Хегсет розпорядився тимчасово припинити кібер-операції проти Росії. Наразі всі операції США проти Москви переглядаються.

Мережа "Правда" була заснована у квітні 2022 року після початку конфлікту в Україні і з тих пір постійно розширюється. За даними NewsGuard, зараз вона охоплює 49 країн і десятки мов.

"Правда" не виробляє власний контент, а використовує статті російських державних ЗМІ або лояльних Кремлю авторитетів, які мережа поширює мільйони разів через такі платформи, як X, Telegram і Bluesky.

В одному з неправдивих повідомлень, наприклад, стверджується, що США утримують в Україні секретні лабораторії з виробництва біологічної зброї.