OpenAI викрила таємні пропагандистські кампанії Китаю та Росії, в яких використовували ChatGPT

Як штучний інтелект став інструментом тіньових операцій

Насправді ця історія не нова. Ще в лютому OpenAI закрила акаунти, які займалися розробкою китайських інструментів цифрового спостереження. Ці інструменти відстежували антикитайські настрої в соцмережах і передавали зібрану інформацію урядовим структурам. Згідно з новим звітом, щонайменше чотири нещодавно заблоковані операції походять із Китаю. Зловмисники використовували ChatGPT для створення постів, коментарів, внутрішньої документації та навіть листів до журналістів і політиків. Платформи, на які були спрямовані кампанії, включали Reddit, TikTok, Facebook та X, повідомляє 24 Канал.

Одна з китайських операцій, названа "Sneer Review", активно використовувала ChatGPT для формування коротких англомовних і китайськомовних коментарів, які розміщувалися на платформах. Повідомлення стосувалися політики США, дій адміністрації Трампа, а також критикували відеогру, в якій гравці виступають проти Комуністичної партії Китаю. Щоб зімітувати справжні дискусії, ця кампанія генерувала як публікації, так і відповіді на них, тобто фактично спілкувалася сама з собою.

Примітно, що учасники операції створювали й внутрішню документацію за допомогою ChatGPT – звіти про проведені дії, які ілюстрували тактики, теми та ефективність кампанії. Звіт OpenAI зазначає, що поведінка в соцмережах повністю відповідала описаним у цих звітах сценаріям.

Ще одна китайська операція задіяла осіб, які видавали себе за журналістів і аналітиків. Вони створювали пости, фальшиві біографії для акаунтів на X, перекладали матеріали з китайської та аналізували дані.

Також виявлено випадки написання листів сенаторам США та створення маркетингових матеріалів із пропозиціями проведення впливових кампаній і вербування агентів.

Росія, Іран та інші

• Крім Китаю, OpenAI викрила ще кілька мереж зловживання – зокрема з Росії та Ірану.
• Також були виявлені спам-розсилки від філіппінської маркетингової компанії та фейкові пропозиції роботи, пов’язані з Камбоджею.
• Нарешті, згадується підозріла схема працевлаштування, що має ознаки північнокорейської активності.

Головний дослідник групи OpenAI Бен Німмо зазначив, що ці операції охоплювали широкий спектр платформ і методів, але в більшості випадків їх вдалося зупинити на ранньому етапі. За його словами, попри використання потужних інструментів ШІ, зловмисникам не вдалося досягти широкого впливу.