Голосовые боты требуют долги: ИИ-коллектор преследует американцев

История Бена, жителя Сиэтла, стала ярким примером проблем, возникающих при взаимодействии с ИИ-коллекторами. Ему позвонил виртуальный помощник Eve от компании ProCollect, требуя оплатить 266 долларов за давний спор с арендодателем, хотя вопрос уже был давно решен.

Во время разговора голосовой агент настойчиво предлагал немедленно погасить долг картой или банковским переводом, отказываясь переключить звонок на человека, как об этом сообщало издание "Главком". Бен решил проверить пределы алгоритма, задавая нестандартные вопросы о структуре выплат.

Однако система продолжала диалог, не соединяя его с оператором. Разговор превратился в абсурдную игру, которая в конечном итоге заставила ИИ передать звонок человеку. Оператор подтвердил, что никакой задолженности у Бена нет.

Это не единичный случай. Американские компании ежемесячно совершают миллионы таких звонков. По словам сооснователя Altur Педро Фернандеса, его система Altur проводит более 2,5 миллиона звонков должникам ежемесячно. Коллекторские агентства стали одними из самых активных клиентов в разработке автоматизированных колл-центров.

Корень проблемы часто заключается в качестве данных, которыми оперируют коллекторы. Информация о задолженностях нередко переходит от одного кредитора к другому, хранится в огромных таблицах и регулярно содержит ошибки. В отличие от живого оператора, который может быстро разобраться со спорной ситуацией, автоматические агенты продолжают требовать оплату даже после погашения долга, как отмечается в статье Wired.

На фоне высокого уровня частной задолженности в США рынок подобных сервисов динамично растет. Автоматизация коллекторских обзвонов вызывает вопросы не только относительно качества работы искусственного интеллекта, но и относительно того, насколько сложно человеку добиться исправления ошибок в системе, которая просто не реагирует на возражения.

Эта ситуация подчеркивает возрастающую роль искусственного интеллекта в повседневной жизни и вызовы, которые она создает. Джеффри Хинтон, которого называют "крестным отцом" искусственного интеллекта, на саммите Sana AI в Нью-Йорке заявлял, что человечество создает новый вид существ, которые вскоре превзойдут нас по интеллекту.

Хинтон, британско-канадский ученый, десятилетиями разрабатывал искусственные нейронные сети – технологию, лежащую в основе ChatGPT и других современных систем ИИ. В 2024 году он получил Нобелевскую премию по физике, а в 2023 году покинул Google, чтобы открыто говорить о потенциальных опасностях своих разработок.

История Бена и растущее количество жалоб на ИИ-коллекторов демонстрируют насущную потребность в регулировании и улучшении качества этих автоматизированных систем, чтобы избежать дальнейших недоразумений и защитить потребителей.