Джорджа Мелони и другие: кто становился жертвой дипфейков

Недавно стало известно о том, что премьер-министр Италии Джорджа Мелони подала в суд на создателей порнографического дипфейка с ее участием. Она намерена дать показания в суде и требует компенсацию в размере 100 тысяч евро, сообщает The Independent.

В создании дипфейка обвиняют двух мужчин, отца и сына,  их удалось разыскать, отследив след мобильного устройства, с которого загружали видео.

К сожалению, Мелони – не первая, кто пострадал от развития технологий, позволяющих создавать реалистичные фото и видео с изображениями людей. Количество жертв злоумышленников уже измеряется тысячами.

Что известно о других жертвах порно-дипфейков

Как пишет The Guardian со ссылкой на Channel 4, известно о 4000 знаменитостях, которые стали жертвами порно-дипфейков. В их число входят актрисы, телевизионные звезды, музыканты и YouTube-блогеры, имена которых не раскрываются.

Проведенное расследование показало, что за три месяца пять сайтов, которые размещают такие видео, собрали 100 миллионов просмотров.

Одной из жертв распространения таких видео стала ведущая новостей Channel 4 Кэти Ньюман. «Это похоже на насилие. Очень зловещее чувство от того, что кто-то, кто это собрал, я не вижу их, а они могут видеть такую воображаемую версию меня, эту фальшивую версию меня», - заявила она.

В начале марта в социальных сетях Facebook и Instagram распространились дипфейки сексуального характера с использованием лица Джены Ортеги. Они использовались в рекламе для продвижения приложения, которое позиционируется как «инструмент создания откровенных сексуальных изображений с использованием искусственного интеллекта», сообщает NBC News.

В конце января в соцсети Х (бывший Twitter) распространились порно-дипфейки с Тефлор Свифт. До того, как эти изображения удалили, их посмотрели 47 миллионов человек. В основном, это были поклонники певицы, которые стремились заявить о нарушении. Но событие стало настолько громким, что Белый дом назвал его «тревожным», пишет The Guardian.

Издание отмечает, что скандал стал травмирующим не только для самой Свифт, но и для тысяч женщин, которые уже пережили подобный опыт. Так, 17-летняя звезда фильмов Marvel Сочил Гомес заявила о том, что Х не смог удалить порнографические дипфейки с ее участием. «Они не имеют ко мне никакого отношения, но все же в них мое лицо», - заявила она.

Когда активистка и писательница Лора Бейтс опубликовала свою книгу «Мужчины, которые ненавидят женщин», посвященную исследованию ненависти к женщинам в интернете, мужчины начали присылать ей изображения, на которых создавалось впечатление, что она «совершает все виды половых актов» с ними.

По ее словам, дипфейковые порнографические изображения и видео «абсолютно распространены в экстремистских женоненавистнических сообществах». Случай же со Свифт показывает, насколько далеко может зайти распространение таких изображений и видео в социальных сетях. «Даже когда они затем принимают меры и заявляют, что закрывают его, к этому моменту эти изображения уже распространились по многим другим тысячам форумов и веб-сайтов», - добавила Бейтс.

Не только знаменитости

Активистка и исследовательница Tech & Policy Lab в Университете Западной Австралии Ноэль Мартин также стала жертвой распространения изображений с ее участием. Впервые она увидела, что ее лицо используется при создании порнографического контента 11 лет назад.

«У обычных женщин вроде меня не будет миллионов людей, которые будут защищать нас и помогать удалять контент, и у нас не будет преимущества в виде крупных технологических компаний, которые бы этому содействовали, реагируя на злоупотребления», — говорит она.

По словам Мартин, раньше в сети распространялись изображения, но с развитием технологий искусственного интеллекта все чаще встречаются видео, которые публикуются на порно-сайтах. По ее словам, даже если изображение не отличается правдоподобностью, оно все равно травмирует женщину.

14-летняя Франческа Мини из Нью-Джерси призвала федеральные власти ввести регулирование распространения изображений, созданных искусственным интеллектом, после того, как в сети распространились сгенерированные ИИ изображения порнографического характера с ней и ее одноклассницами, пишет CNN.

«В этой ситуации были какие-то мальчики или мальчик — это предстоит определить, — которые без согласия девочек создавали неуместные изображения», — рассказала мама девочки Дорота.

Не только порнография

Не все создатели дипфейков преследуют цель создать порно-ролики с участием знаменитостей или своих знакомых. Очень часто за этим стоят и другие мотивы. Чаще всего, это один из способов зарабатывания денег или продвижения своих услуг.

Как пишет ВВС, одной из жертв дипфейков стал индийский игрок в крикет Сачин Тендулкар.  Его изображение использовали для рекламы приложения для онлайн-гейминга. В опубликованном видео Тендуклар якобы рекламировал приложение как быстрый способ заработать. После его появления спортсмен сообщил о фейке и заявил о «безудержном злоупотреблении технологиями».

Жертвами дипфейков становились также индийские актрисы Рашмика Манданна, Алия Бхатт, Каджол и Катрина Каиф.

В сети также распространилась реклама с фейковыми изображениями Пирса Моргана и Опры Уинфри. Их использовали для продвижения курса самопомощи сомнительного качества, сообщает CNN. Реклама с изображением Уинфри и Моргана была размещена на YouTube, Facebook и Instagram.

В некоторых случаях злоумышленники могут пойти дальше, не ограничиваясь только рекламой. Так, финансист одной из мультинациональных фильм перевел на счет злоумышленников 25 миллионов долларов после того, как поговорил с дипфейком главного финансового офицера.

Как сообщила полиция Гонконга, сотрудника заставили поверить в то, что он присутствует на видео-созвоне с другими работниками своей фирмы. На самом деле, все они были фейками, сообщает CNN.

С дальнейшим развитием технологий искусственного интеллекта растет вероятность того, что подобные видео и фото будут становиться все более правдоподобными, а злоумышленники будут находить новые способы их использования.

Напомним, ZN.UA начало цикл материалов о том, как активно программы искусственного интеллекта увлекают мир. Государственные политики, законы, суды, юридическая практика, международные организации, высшее образование, медицина, культура и искусство, медиа — все это сферы, которые уже немыслимы без использования ИИ. Каковы риски и обратная сторона технологий? Должны ли государства контролировать эту сферу, и если да, то насколько? В первой статье цикла речь идет о государственной поддержке и сдерживании развития искусственного интеллекта.

Об этом в первой и второй частях статьи «Какова государственная политика поддержки развития и сдерживания опасности искусственного интеллекта» рассказывает кандидат юридических наук, адвокат Сергей Козьяков.