Meta таємно залучала людей для здійснення телефонних дзвінків ШІ-агента Muse

Компанія Meta тестувала залучення людей-операторів для телефонних дзвінків свого нового персонального агента зі штучним інтелектом Muse, який має втричі більше активних користувачів, ніж ChatGPT свого часу. Підрядники мали непомітно для користувачів брати на себе частину дзвінків, які агент не міг виконати самостійно. Водночас деякі співробітники Meta висловили занепокоєння щодо конфіденційності та можливого розкриття особистої інформації операторам, повідомляє Reuters.

Muse створений для автономного виконання повсякденних завдань — зокрема надсилання електронних листів, покупок і бронювання подорожей. Функція телефонних дзвінків дає змогу доручити агенту зателефонувати американській компанії, наприклад записатися на стрижку, перевірити наявність товару або отримати пропозиції від підрядників.

За даними Sensor Tower, після запуску Muse вже завантажили понад 2,5 мільйона разів. Протягом двох тижнів після дебюту застосунок очолював рейтинг завантажень у США. Через це на момент останнього закриття торгів акції Meta перебували на найвищому рівні більш ніж за сім місяців.

Люди непомітно для користувачів виконували дзвінки

Про тестування Meta повідомила співробітникам минулого тижня, згідно з внутрішніми повідомленнями компанії, з якими ознайомилося Reuters. Функція передбачала, що Muse міг передати запит оператору-людині, який телефонував до компанії та вирішував питання замість користувача.

Деякі співробітники Meta поставили під сумнів доцільність залучення людей до таких дзвінків через ризик розкриття конфіденційних даних. В одному з внутрішніх повідомлень працівник зазначив, що достатньо однієї технічної помилки, щоб зайва інформація стала доступною операторам кол-центрів.

Інший співробітник розповів, що доручив Muse зателефонувати інтернет-провайдеру та оператору кабельного телебачення, щоб змінити умови оплати. За його словами, у розшифровці розмови зафіксували расистське висловлювання з боку залученого оператора.

У компанії перепросили перед співробітником, який повідомив про расистське висловлювання під час дзвінка. За словами Meta, оператор, який брав участь у цій розмові, більше не працюватиме над жодними проєктами компанії.

Meta призупинила тестування

Віцепрезидентка підрозділу Superintelligence Labs Meta визнала, що запуск тестування без належного інформування користувачів був помилкою. За її словами, компанія наразі призупинила дію цієї функції.

Водночас в Meta заявили, що продовжують працювати над технологією ШІ-дзвінків. За результатами тестування, залучення людей могло підвищити частку успішно виконаних дзвінків до 95–98% порівняно з нижчим показником для дзвінків, які виконувалися виключно ШІ.

Представник Meta Деніел Робертс розповів, що компанія працює з підрядниками над удосконаленням потенційної функції. За його словами, її запустять для широкого використання лише після доопрацювання та за умови належного інформування користувачів.

Людська праця для автономного ШІ

Подібний експеримент Meta проводила близько десяти років тому з цифровим помічником M у Messenger. Згодом у медіа з'явилися оцінки, що близько 70% завдань цього сервісу фактично виконували люди.

У випадку Muse проблема виникла, зокрема, через небажання деяких компаній спілкуватися з автоматизованими системами. Один зі співробітників Meta розповів, що страхова компанія неодноразово переривала дзвінок, щойно чула, що телефонує ШІ.

Щоб подолати цю проблему, Meta активувала функцію «дзвінків від агентів-людей» для половини своїх співробітників. Працівники могли відмовитися від участі в тестуванні, приєднавшись до спеціальної групи opt-out. Представник Meta назвав загальну реакцію співробітників на тестування «надзвичайно позитивною» та зазначив, що компанія прагнула отримати від них відгуки для посилення безпеки й захисту приватності перед можливим публічним запуском функції.

Автономний ШІ-агент Muse побудований на основі флагманської моделі Muse Spark. На старті продукт інтегрували у WhatsApp, а також запустили на мобільних телефонах та через вебінтерфейс. Meta позиціює Muse як безпечного помічника нового покоління, адже агент працює в захищеному віртуальному середовищі Muse Secure VM.