Meta тайно привлекала людей для осуществления телефонных звонков от ИИ-агента Muse

Компания Meta тестировала привлечение операторов для обработки телефонных звонков своего нового персонального агента с искусственным интеллектом Muse, у которого в три раза больше активных пользователей, чем у ChatGPT в свое время. Подрядчики должны были незаметно для пользователей брать на себя часть звонков, которые агент не мог выполнить самостоятельно. В то же время некоторые сотрудники Meta выразили обеспокоенность по поводу конфиденциальности и возможного раскрытия личной информации операторам, сообщает Reuters.

Muse создан для автономного выполнения повседневных задач — в частности, отправки электронных писем, покупок и бронирования поездок. Функция телефонных звонков позволяет поручить агенту позвонить в американскую компанию, например, чтобы записаться на стрижку, проверить наличие товара или получить предложения от подрядчиков.

По данным Sensor Tower, после запуска Muse уже скачали более 2,5 миллиона раз. В течение двух недель после дебюта приложение возглавляло рейтинг загрузок в США. Из-за этого на момент последнего закрытия торгов акции Meta находились на самом высоком уровне более чем за семь месяцев.

Люди незаметно для пользователей совершали звонки

О тестировании Meta сообщила сотрудникам на прошлой неделе, согласно внутренним сообщениям компании, с которыми ознакомилось агентство Reuters. Функция предполагала, что Muse мог передать запрос оператору-человеку, который звонил в компанию и решал вопрос вместо пользователя.

Некоторые сотрудники Meta усомнились в целесообразности привлечения людей к таким звонкам из-за риска раскрытия конфиденциальных данных. В одном из внутренних сообщений сотрудник отметил, что достаточно одной технической ошибки, чтобы лишняя информация стала доступна операторам колл-центров.

Другой сотрудник рассказал, что поручил Muse позвонить интернет-провайдеру и оператору кабельного телевидения, чтобы изменить условия оплаты. По его словам, в расшифровке разговора было зафиксировано расистское высказывание со стороны привлечённого оператора.

В компании принесли извинения сотруднику, сообщившему о расистском высказывании во время звонка. По словам Meta, оператор, участвовавший в этом разговоре, больше не будет работать ни над одним проектом компании.

Meta приостановила тестирование

Вице-президент подразделения Superintelligence Labs Meta признала, что запуск тестирования без надлежащего информирования пользователей был ошибкой. По её словам, компания на данный момент приостановила действие этой функции.

В то же время в Meta заявили, что продолжают работать над технологией ИИ-звонков. По результатам тестирования, привлечение людей могло повысить долю успешно выполненных звонков до 95–98% по сравнению с более низким показателем для звонков, которые выполнялись исключительно ИИ.

Представитель Meta Дэниел Робертс рассказал, что компания работает с подрядчиками над усовершенствованием потенциальной функции. По его словам, её запустят для широкого использования только после доработки и при условии надлежащего информирования пользователей.

Человеческий труд для автономного ИИ

Подобный эксперимент Meta проводила около десяти лет назад с цифровым помощником M в Messenger. Впоследствии в СМИ появились оценки, что около 70% задач этого сервиса фактически выполняли люди.

В случае с Muse проблема возникла, в частности, из-за нежелания некоторых компаний общаться с автоматизированными системами. Один из сотрудников Meta рассказал, что страховая компания неоднократно прерывала звонок, как только слышала, что звонит ИИ.

Чтобы решить эту проблему, Meta активировала функцию «звонков от реальных агентов» для половины своих сотрудников. Сотрудники могли отказаться от участия в тестировании, присоединившись к специальной группе opt-out. Представитель Meta назвал общую реакцию сотрудников на тестирование «чрезвычайно положительной» и отметил, что компания стремилась получить от них отзывы для усиления безопасности и защиты конфиденциальности перед возможным публичным запуском функции.

Автономный ИИ-агент Muse построен на основе флагманской модели Muse Spark. На старте продукт интегрировали в WhatsApp, а также запустили на мобильных телефонах и через веб-интерфейс. Meta позиционирует Muse как безопасного помощника нового поколения, ведь агент работает в защищенной виртуальной среде Muse Secure VM.