Іран використовує ШІ для дискредитації США - радіо Свобода

Open AI повідомляє , що нещодавно вона зуміла заблокувати дві операції впливу Росії та Ірану, які використовували її моделі поряд з більш традиційними методами та технологіями для підтримки ретельно збудованих структур прикриття. Через ці структури вони доносили до цільових аудиторій у світі свої геополітичні тези, пов'язані із збройними конфліктами – приховуючи їхнє справжнє джерело.

Іранська операція використала сім вигаданих "журналістів", від імені яких пропонувала об'ємні статті невеликим та середнім інтернет-виданням по всьому світу. Російська операція, мабуть, залучила людей, які нічого не підозрюють у Латинській Америці, до роботи місцевого "аналітичного центру".

Невтомний "Ервін Б. Хоскінс"

Якийсь "Ервін Б. Хоскінс", американський журналіст-фрілансер, за останні місяці написав десятки статей з критикою війни США проти Ірану. У його матеріалах, опублікованих у невеликих американських ЗМІ, у війні, що триває з лютого, на Близькому Сході Сполучені Штати постають однозначним агресором, а Ізраїль зображується як їх ненадійний союзник. Іран же представлений непокірною країною, що кинула виклик набагато сильнішому противнику.

Однак, як зараз з'ясувалося, "Ервін Б. Хоскінс" - зовсім не американський репортер. Більше того, насправді такої людини просто не існує. "Хоскінс" був одним із семи вигаданих журналістів, нібито західних, чиїми іменами спецслужби Ірану користувалися для розміщення у ЗМІ по всьому світу, у тому числі в США, корисних для них статей.

Вигадані учасники цієї іранської операції нагадували фейкову журналістку на ім'я "Еліс Донован" , створену російською військовою розвідкою ГРУ у 2016–2017 роках для потрібних публікацій у низці західних видань. А в 2020 році, нагадує Open AI, люди, пов'язані з колишньою діяльністю "фабрики тролів" Євгена Пригожина (російського "Агентства інтернет-досліджень" ), керували підробленим "новинним" виданням PeaceData , залучаючи до написання матеріалів журналістів з усього світу, які нічого не підозрюють.

У звіті OpenAI від 8 жовтня йдеться про припинення цілої іранської операції з поширення прихованого впливу Тегерана та антиамериканської пропаганди в західних державах, під час якої використовувався її чат-бот ChatGPT.

"Приблизно у дюжині інтернет-видань у всьому світі ми виявили майже 100 статей, опублікованих під іменами цих неіснуючих авторів", - зазначає керівництво OpenAI. Йшлося майже завжди про невеликі та середні видання, які в основному висвітлювали міжнародні відносини, геополітику і особливо події на Близькому Сході.

Компанія OpenAI також наголосила, що вже заблокувала облікові записи ChatGPT, власники яких використовували цей продукт для написання статей, підготовки тем для публікацій та створення до них коментарів у соціальних мережах.

Нападки на Джареда Кушнера

У числі статей, приписуваних авторству " Ервіна Б. Хоскінса " , був, наприклад, матеріал під заголовком " Джаред Кушнер і приватизація стратегії США щодо Ірану " , опублікований 12 червня ресурсі PeaceVoice – службі поширення аналітичних статей та думок, якою керує Орегонський інститут.

У наступні дні ця ж стаття була передрукована під схожими заголовками американським лівим інтернет-журналом CounterPunch і порталом LA Progressive, що базується в Лос-Анджелесі і позиціонує себе як "незалежне видання, що відстоює принципи справедливості".

При цьому тема особистих фінансових інтересів Джареда Кушнера, зятя та спецпосланника президента США Дональда Трампа, а також його дипломатична діяльність, яка створює можливий конфлікт інтересів, справді неодноразово висвітлювалася провідними американськими ЗМІ – наприклад, у рамках розслідування, проведеного журналом The New Yorker.

Однак хоча автор статті, опублікованої на ресурсах PeaceVoice, CounterPunch та LA Progressive, і згадує побіжно, що Кушнер відстоює правомірність своїх ділових операцій і те, що висунуті проти нього звинувачення не доводять факту корупції, він висвітлює всі факти однобоко та однобічно. "Ервін Б. Хоскінс" приділяє вкрай мало місця позиції адвокатам Джареду Кушнеру. У статті також висловлюється припущення, що фінансові інтереси Кушнера впливають на політику США щодо Ірану. Однак жодних чітких доказів, що підкріплюють ці твердження, не наводиться.

Крім того, у матеріалі упускаються з уваги інші фактори, що визначають політику Вашингтона щодо Ірану, у тому числі стурбованість ядерною програмою Тегерана та давні зв'язки США з такими ключовими союзниками, як Ізраїль та Саудівська Аравія. Та й саме використання у заголовку статті таких оцінних термінів, як "приватизація", також свідчить про явну упередженість.

"Шкала прориву" спецслужб Ірану

Іранська розвідка, як пише OpenAI, окрім "Ервіна Б. Хоскінса" створила ще шість вигаданих осіб, які видавали себе за журналістів. У кожного з них були профілі у соціальних мережах та особисті зображення, створені за допомогою штучного інтелекту. Всі ці облікові записи активно розповсюджували контент один одного. Матеріали, нібито написані цими "західними журналістами", публікувалися в американських ЗМІ як лівого штибу, так і правої та лібертаріанської спрямованості.

У компанії OpenAI заявили, що ця операція, на їхню думку, досягла "четвертої категорії" за так званою "Шале прориву", тобто порівняльною моделлю масштабу та впливу інформаційних психологічних операцій та кампаній з дезінформації ( IO Breakout Scale ).

"ІІ може надати таким операціям щодо створення фальшивих думок, ідей, образів та особистостей величезний масштаб та ефективність, а також забезпечити більш високий рівень володіння мовою та якість підготовки матеріалів", зазначають у OpenAI. "Організатори кампанії дезінформації можуть використовувати ці переваги, щоб вводити в оману людей, які нічого не підозрюють, у тому числі, журналістів і редакторів, і поширювати свій контент серед аудиторії, яка навіть не здогадується, хто стоїть за цими публікаціями і які справжні цілі їхніх авторів".

Не тільки OpenAI

OpenAI – не єдиний розробник, чиї досягнення в галузі штучного інтелекту використовуються в подібних операціях дезінформації та поширення хибних фактів.

У вересні, наприклад, американська компанія Anthropic, у свою чергу, заявила , що державні структури Ірану використовують моделі штучного інтелекту – такі, як сімейство великих мовних моделей Claude (розробки самої Anthropic) та Gemini (від Google) – для проведення пропагандистських дезінформаційних кампаній та просування наративів. Керує цим процесом Корпус вартових ісламської революції (КСІР), елітний військово-політичний підрозділ, який фактично став останнім часом "тіньовим урядом" Ірану.

Anthropic також повідомила про припинення діяльності іранських спецслужб, які використовували її додаток Claude для "організації, проведення та іншого забезпечення операцій з виявлення та стеження", спрямованих проти етнічних меншин та інакодумців усередині самого Ірану.

"Штучний інтелект значно спростив створення багатомовної пропаганди і фальшивих профілів в інтернеті, а також дискредитацію всіх супротивників", - зазначає в інтерв'ю Радіо Фарда (Іранська служба Радіо Вільна Європа/Радіо Свобода) Пуйеш Азізеддін , дослідниця в галузі прав людини та технологій. Іран.

"Але, з іншого боку, не можна забувати і про інший бік медалі - що авторитарні уряди часто використовують боротьбу з дезінформацією як привід для запровадження цензури, розширення масштабів стеження і навіть тиску з метою розкриття особистості користувачів", - каже вона.