В OpenAI рассказали, почему не открывают функцию клонирования голоса

В 2024 году компания OpenAI представила новую технологию Voice Engine — искусственный интеллект, способный точно воспроизводить человеческий голос по образцу всего 15-секундной аудиозаписи.

Этот инструмент сразу вызвал значительный интерес из-за своего потенциала.

Однако, несмотря на масштаб анонса, функция так и не стала доступна широкой общественности.

Как выяснилось, причиной стали серьезные опасения по поводу безопасности и возможных этических проблем.

За время своего существования ChatGPT получил много новых функций: теперь он может не только создавать тексты, но и создавать отчеты, обрабатывать изображения и даже анализировать веб-страницы.

Но, несмотря на планы сделать его частью ChatGPT или выпустить отдельно, Voice Engine остается в доступе только для ограниченного круга партнеров.

Причина — высокий риск злоупотреблений.

Эксперты предупреждают: клонирование голоса может быть использовано для создания убедительных фейков, включая голоса политиков или известных лиц.

Такой инструмент может способствовать распространению дезинформации.

Кроме этого есть еще одна опасность — злоумышленники могут подделывать голоса родственников или друзей, чтобы обманывать людей и выманивать деньги.

Примером потенциальных злоупотреблений стали дипфейки, которые активно распространялись после появления инструментов генерации изображений.

Тогда еще не действовали достаточно жесткие ограничения, поэтому многие могли создавать изображения сомнительного характера.

В случае с Voice Engine аналогичная вольность могла бы привести к еще более масштабным проблемам.

Клонированные голоса — это очень чувствительная область, которая требует тщательного контроля.

Тем не менее, в технологии есть и полезные направления применения.

Например, она может быть использована для дубляжа фильмов на разных языках без потери подлинности голоса актера.

Также она помогает людям с недостатками речи или тем, кто потерял способность говорить.

Еще один вариант — мгновенный перевод с одного языка на другой с сохранением голосового тембра и интонаций.

Однако OpenAI решила действовать осторожно.

Voice Engine все еще находится в стадии тестирования с ограниченным кругом партнеров.

Компания исследует разные сферы использования: от логопедии до образовательных проектов и создания голосов для цифровых персонажей.

По данным Tech.

Crunch, еще в марте 2024 г.

OpenAI намеревалась выпустить эту функцию как API под названием Custom Voices.

Доступ должны были получить первые сто разработчиков, которые смогли бы доказать социальную пользу или ответственный подход к применению.

Компания даже зарегистрировала торговую марку и подготовила ценовую политику.

Но реального запуска так и не произошло.

Учитывая последние случаи мошенничества с использованием искусственного интеллекта, осторожность OpenAI выглядит вполне логичной.

Компания не хочет повторения ситуаций, когда технологии выходят из-под контроля.

Ее подход свидетельствует о серьезном отношении к ответственности за новые возможности ИИ.

Когда именно Voice Engine станет общедоступным, пока неизвестно.

Но очевидно, что это произойдет только тогда, когда будут внедрены надежные защитные механизмы, а пользователи достаточно осведомлены о преимуществах и рисках таких технологий.

Напомним, Microsoft готовится отключить важную программу для Windows.