Искусственный интеллект сгенерировал клон украинского блогера и продает российские товары в Китае

Студентка из Украины Ольга Лоек, которая учится в США и ведет свой YouTube-канал о ментальном здоровье, стала получать от своих подписчиков сообщения, что ее видели в китайских соцсетях, где она продает российские товары. Об этом рассказывает "Голос Америки".

Выяснилось, что искусственный интеллект сгенерировал клон украинского блогера. Она перестала быть Ольгой Лоек и стала русской, которая говорит на китайском, любит Китай и хочет выйти замуж за китайца. Ее зовут Наташа, Анна, или Грейс, в зависимости от платформы социальных сетей в Китае.

Важно ИИ больше нельзя доверять: новые вирусы могут украсть данные людей, "заразив" чатботы

"Я начала переводить видео с помощью Google Translate и поняла, что большинство этих учетных записей говорят о таких вещах, как Китай, Россия, о том, насколько хорошие отношения между Китаем и Россией. Это очень обидно", — рассказала Ольга "Голосу Америки".

Douyin, китайская версия TikTok, обозначила некоторые из этих видео как потенциально сгенерированные ИИ. Но из комментариев видно, что многие верят, что смотрят на настоящую женщину. Один пользователь сети написал: "Русская красавица, китайцы приветствуют вас".

Девушка возмущена, потому что никогда не скажет подобных вещей, считая, что она украинка, а ее страна находится в состоянии войны с Россией.

На Bilibili, крупнейшем видеосайте Китая, некоторые видео с искусственным интеллектом, в которых используется лицо Лоек, помечены логотипом HeyGen, что указывает на то, что видео было создано на вебсайте компании. В одном видео с Bilibili демонстратор даже показывает, как сделать короткое видео на HeyGen с клипом, на котором разговаривает Лоек.

Лоек сказала, что после того, как она и ее подписчики на YouTube отправили жалобы китайским компаниям социальных сетей, около десятка учетных записей, которые имитировали ее, были удалены.

Закон запрещает создавать дипфейки без согласия людей, чье изображение или другая информация используются. Лоек опубликовала свою историю на YouTube, и ее распространили в китайских социальных сетях. Пользователи сети на разных платформах посочувствовали девушке и призвали ужесточить правила в отношении ИИ.