Девушка, убитая 18 лет назад, "ожила" в виде чат-бота с ИИ: родные возмущены

Сервис Character.ai использовал фото американки Дженнифер Энн Кресенте, которая была убита в 2006 году, для создания чат-бота с искусственным интеллектом (ИИ). Об этом пишет Business Insider.

Сообщается, что отец девушки Дрю Кресенте получил оповещение Google, которое он настроил, чтобы отслеживать любые упоминания о Дженнифер в сети. Как оказалось, Google проиндексировал бота, созданного в Character.ai. Этот сервис позволяет создавать персонажей с определенными "личностями", а затем публиковать их, открывая доступ к ним другим пользователям.

Бот использовал имя и фото Дженнифер из выпускного альбома, описывая ее как "знающего и дружелюбного персонажа ИИ, который может предоставить информацию по широкому кругу тем", а также "эксперт в журналистике" с опытом в новостях видеоигр. На момент, когда отец обнаружил бота, счетчик в его профиле показывал, что он уже использовался как минимум в 69 чатах.

"Это было горе. Потому что вот я здесь, мне снова приходится сталкиваться с этой ужасной травмой, с которой мне приходилось иметь дело долгое время", — рассказал Дрю журналистам.

Мужчина обратился к Character.ai через форму поддержки клиентов и попросил компанию удалить чат-бота, имитирующего его дочь. После этого он получил автоматический ответ, содержащий номер его обращения, но никакой дополнительной информации. В свою очередь дядя девушки Брайан Креченте опубликовал в Twitter сообщение о чат-боте, призвав своих подписчиков помочь "остановить эту ужасную практику".

"Это отвратительно: @character_ai использует мою убитую племянницу как лицо искусственного интеллекта в видеоигре без разрешения ее папы. Сейчас он очень расстроен. Я не могу вообразить, что он переживает", — написал Брайан.

Спустя час в Character.ai ответили на пост, заявив, что чат-бот Дженнифер удален. Представитель компании Кэсси Лоуренс в комментарии изданию подтвердила, что чат-бот был удален. По ее словам, Character.ai использует "стандартные списки блокировки и пользовательские списки блокировки" для предотвращения выдачи себя за другое лицо.

При этом Дрю заявил, что компания должна была извиниться, а также гарантировать, что фото его дочери больше не будут использоваться. На данный момент он ищет возможности добиться этого правовым путем.

"Просто неописуемо, что компания с такими деньгами, по-моему, настолько безразлична к повторному травмированию людей", — сказал отец Дженнифер.

Также сообщалось, что американскому сенатору и председателю комитета по иностранным делам Бенджамину Луису Кардину позвонил дипфейк бывшего министра иностранных дел Украины Дмитрия Кулебы.