CNN через передчасний доступ до ШІ-інструмента «TiкToк» створив відео з цитатами Гітлера

Соцмережа «TiкToк» тестує новий ШІ-інструмент «Symphony Digile Avatars Tiktok», що дозволяє генерувати відео з цифровим аватаром та їх озвученням на основі зображень на плакатах та розміщених них закликів. Посилання на інструмент помилково опублікували для користувачів-рекламодавців відеоплатформи TikTok Ads Manager. Скориставшись цим, редакція CNN згенерувала відео із цитатами Гітлера, що суперечить встановленим щодо контенту правилам соцмережі. Про це повідомило The Verge.

Першою «лазівку» помітила редакція телеканалу CNN. Відтак згенерували з доромогою ШІ-інструмента відео з цитатами Гітлера про «білу расу», відео з промовою Осами Бін Ладена «Лист до Америки» та фейкову інструкцію, як голосувати на виборах.

TikTok placed zero content restrictions on the app. Any words we put in created a video with a peppy “Stock AI” Avatar reciting them. That included:

-The 14 words
-An excerpt from Mein Kampf
-Osama Bin Laden’s Letter to America
-A video telling people to drink bleach from “a… pic.twitter.com/I2QbqbDFnw

— Jon Sarlin (@jonsarlin) June 21, 2024

CNN не публікувало згадуваних відео, проте стало зрозуміло, що наразі інструмент не містить жодних обмежень щодо генерації забороненого контенту та не пропонує додавати водяний знак на ШІ-відео.

Прес-секретарка «TiкToку» Лора Перес запевнила медіа, що у разі якби CNN опублікувало згадувані відео у соцмережі, їх би заблокували за невідповідність встановленим стандартам.

• Читайте також: «Forbes Україна»: TikTok призупинив перемовини про відкриття свого представництва в Україні

 Фото: «TiкToк» / Getty Images