Всі ведучі новин від імені ІДІЛ виявилися діпфейками ШІ

18 мая, 22:01, 2024

Через чотири дні після нападу "Ісламської держави" на російський концертний майданчик у березні відео почало поширюватися на приватній платформі, пов'язаній з терористичною групою. У 92-секундному ефірі ведучий новин у шоломі та уніформі сказав, що напад не був терористичною операцією, а частиною «нормального контексту бурхливої війни між Ісламською державою та країнами, які борються з ісламом». Цей ведучий, як і всі його "колеги" - витвір ШІ, а не жива людина.

Згідно з відео та повідомленнями чату, якими поділився з The Washington Post SITE Intelligence Group , «якір» був підробленим, створеним прихильниками Ісламської держави в рамках нової медіа-програми News Harvest, створеної штучним інтелектом. терористичні та екстремістські рухи в Інтернеті.

З березня програма пропонує майже щотижневі відеорозсилки про операції Ісламської держави по всьому світу. Створена так, щоб нагадувати випуск новин Аль-Джазіри, програма — про яку раніше не повідомлялося — знаменує появу штучного інтелекту як потужного інструменту пропаганди, оскільки філії «Ісламської держави» набирають обертів і відновлюють медіа-операції групи, — сказала Ріта Кац, співзасновник SITE Intelligence Group.

«Для ІДІЛ штучний інтелект означає зміну правил гри», — сказав Кац. «Це буде для них швидким способом розповсюдити та розповсюдити свої… криваві напади [щоб] досягти майже всіх куточків світу».

Шоу починається з показу графічного логотипу та послідовності заголовків. Ведучі новин, створені штучним інтелектом, з’являються на екрані, одягнені в бойове спорядження або офіційні туніки, а тикери новин прокручуються, а відеоматеріали b-roll показують членів Ісламської держави, які виконують терористичні місії. Ведучі зачитують повідомлення офіційних ЗМІ "Ісламської держави", зокрема "Аль-Наба" та "Амак".

ЗОБРАЖЕННЯ, СТВОРЕНЕ ШІ: знімок екрана з випуску новин, створеного прихильниками Ісламської держави, на якому зображено ведучого новин, створеного штучним інтелектом, який був позначений The Washington Post. (SITE Intelligence Group)

За словами медіа-експертів із питань тероризму, ці відео є одними з перших ознак того, що штучний інтелект допомагає терористичним групам швидко поширювати пропаганду та вербувати членів, і навіть викликали внутрішні дебати щодо використання технології згідно з ісламським правом.

«Ісламська держава» відома своєю гучною медіа-операцією, яка створює відео про вербування голлівудського рівня, які привабливі для молоді. Відеогенератори штучного інтелекту тепер дозволяють їм створювати такий контент за невелику частку вартості. Декілька ісламістських бойових організацій, у тому числі Аль-Каїда, виявили зацікавленість у використанні чат-ботів зі штучним інтелектом, генераторів зображень і клонувальників голосу для швидкого створення дезінформації, свідчать повідомлення, опубліковані The Post.

Штучний інтелект дає прихильникам Ісламської держави можливість створювати пропаганду, яка маскується в нешкідливий спосіб, наприклад, випуск новин, що ускладнює модерацію технологічних компаній, сказав Кац. Дешеві та прості у використанні інструменти штучного інтелекту дозволяють знімати відео швидко та за мізерний бюджет, що приносить користь таким групам, як Ісламська держава та Аль-Каїда, які були ослаблені військовими атаками.

«Моджахеди ЗМІ»

Прихильники «Ісламської держави» охоче використовували ШІ для пропаганди. 15 березня один із прихильників «Al Kurdi 500» на сервері приватних повідомлень обґрунтував, чому колеги-прихильники повинні прийняти ШІ.

«Було б чудово, якби брати створювали відео про щоденні новини, як альтернативу читанню новин у текстовому вигляді та перегляду зображень, — написав Al Kurdi 500, — наприклад, як канали новин, такі як Al Jazeera», розповідають про події.

«Технології сильно розвинулися, і сьогодні це було б легше зробити, особливо з використанням ШІ», — додав Аль Курді 500. «Медіа такі ж важливі, як фізична війна, або навіть більше. Бо це має дуже великий вплив на людей».

Через сім днів після цього повідомлення члени "Ісламської держави" вбили щонайменше 133 людини під час нападу на музичний зал у Підмосков'ї. Прихильник екстремістського угруповання під назвою Hisad швидко мобілізувався, щоб створити відео, згенероване штучним інтелектом. 26 березня Hisad опублікував перший епізод News Harvest на платформі приватних повідомлень.

Рятувальники працюють біля палаючої концертної площадки Crocus City Hall на північному заході Москви після масового вбивства 22 березня. (Олександр Земляніченко-молодший/Сіньхуа/Getty Images)

Після російської атаки було опубліковано шість трансляцій News Harvest, які містять огляд останніх операцій філій Ісламської держави по всьому світу, зокрема в Нігері, Камеруні, Іраку, Сирії та Нігерії. Незрозуміло, яка технологія AI використовується, хоча деякі прихильники в публікаціях заохочують використання «хорошого» програмного забезпечення AI, такого як інструмент клонування голосу від Eleven Labs, компанії з виробництва аудіо AI. (Eleven Labs не відповіли на запит на коментар.)

Стівен Сталінскі, виконавчий директор Близькосхідного медіадослідного інституту (MEMRI), сказав, що ці епізоди не створені офіційним підрозділом Ісламської держави, тому незрозуміло, чи вони узгоджуються з головною стратегією групи. Але він сказав, що не здивується, якщо він створить медіа-підрозділ штучного інтелекту, оскільки він завжди швидко впроваджував найсучасніші технології.

Источник материала