OpenAI викрила мережі пропаганди РФ та Ірану в ChatGPT: деталі блокування

Історія почалася з ретельного аналізу діяльності в екосистемі ChatGPT, коли експерти OpenAI помітили підозрілу активність. Вони виявили, що облікові записи, керовані мережами впливу, використовували можливості штучного інтелекту для створення обширних статей та коментарів, спрямованих на формування певних наративів.

Іранська операція розгорталася через сім профілів, власники яких майстерно видавали себе за західних журналістів, зокрема з США. Завдяки цим вигаданим образам вони розміщували великі за обсягом матеріали в медіа по всьому світу, намагаючись вплинути на громадську думку.

Компанія OpenAI виявила близько 100 таких статей, опублікованих або передрукованих у приблизно 12 онлайн-виданнях. Ці медіа, переважно невеликі та середні, фокусувалися на міжнародних відносинах, геополітиці та подіях на Близькому Сході. Цікаво, що найдавніша публікація датується липнем 2025 року, а найновіша — жовтнем 2026 року, причому частота матеріалів зросла після початку війни між США та Іраном.

Одним із найяскравіших вигаданих персонажів був Ервін Б. Госкінс, який позиціонував себе як американський позаштатний автор. Він мав активні облікові записи на різних технологічних платформах, включаючи X та Instagram. Аналіз прозорості цих платформ вказав на зв'язок акаунта в X із застосунком для Android у Західній Азії, а Instagram — на перебування в Ірані, що викрило його справжнє походження.

Паралельно з цим, російська мережа залучала людей у Латинській Америці до діяльності так званого аналітичного центру Social Research Center (SRC). Цей центр використовувався для прихованих операцій, спрямованих на підрив репутації України в регіоні та вплив на місцеву політику. Виявилося, що працівники SRC у Латинській Америці не знали, що працюють на російську групу, що робить цю операцію однією з найскладніших спроб створення підставних організацій, якій OpenAI протидіяла за останні два з половиною роки.

На момент публікації матеріалів, облікові записи, такі як ті, що належали Ервіну Б. Госкінсу, ймовірно, вже були заблоковані. OpenAI рішуче вжила заходів для блокування цих мереж впливу, що свідчить про зростаючу боротьбу з дезінформацією в цифровій ері.

Компанія OpenAI заявила, що заблокувала групи облікових записів ChatGPT, які використовувалися для підтримки підставних організацій та прихованого поширення матеріалів на геополітичні теми та про міжнародні конфлікти. Це викриття підкреслює зростаючу загрозу використання інструментів штучного інтелекту для ведення інформаційних воєн.

За даними France 24., іранська та російська операції є прикладами того, як штучний інтелект може бути використаний для маніпуляцій, створюючи фальшиві образи та поширюючи пропаганду, що вимагає постійного вдосконалення методів виявлення та протидії з боку технологічних компаній.

Ці події є важливим нагадуванням про те, що технологічний прогрес завжди супроводжується викликами, особливо коли йдеться про інформаційну безпеку. Майбутнє вимагає пильності та спільних зусиль для захисту цифрового простору від прихованих маніпуляцій.