Голосові боти вимагають борги: ШІ-колектор переслідує американців

Історія Бена, мешканця Сіетла, стала яскравим прикладом проблем, які виникають при взаємодії з ШІ-колекторами. Йому зателефонував віртуальний помічник Eve від компанії ProCollect, вимагаючи сплатити 266 доларів за давнім спором з орендодавцем, хоча питання вже було давно вирішене.

Під час розмови голосовий агент наполегливо пропонував негайно погасити борг карткою або банківським переказом, відмовляючись переключити дзвінок на людину, як про це повідомляло видання "Главком". Бен вирішив перевірити межі алгоритму, ставлячи нестандартні питання про структуру виплат.

Проте система продовжувала діалог, не з'єднуючи його з оператором. Розмова перетворилася на абсурдну гру, яка зрештою змусила ШІ передати дзвінок людині. Оператор підтвердив, що жодної заборгованості у Бена немає.

Це не поодинокий випадок. Американські компанії щомісяця здійснюють мільйони таких дзвінків. За словами співзасновника Altur Педро Фернандеса, його система Altur проводить понад 2,5 мільйона дзвінків боржникам щомісяця. Колекторські агентства стали одними з найактивніших клієнтів у розробці автоматизованих кол-центрів.

Корінь проблеми часто полягає в якості даних, якими оперують колектори. Інформація про заборгованості нерідко переходить від одного кредитора до іншого, зберігається у величезних таблицях і регулярно містить помилки. На відміну від живого оператора, який може швидко розібратися зі спірною ситуацією, автоматичні агенти продовжують вимагати оплату навіть після погашення боргу, як зазначають у статті Wired.

На тлі високого рівня приватної заборгованості в США ринок подібних сервісів динамічно зростає. Автоматизація колекторських обдзвонів викликає питання не тільки щодо якості роботи штучного інтелекту, а й щодо того, наскільки складно людині домогтися виправлення помилок у системі, яка просто не реагує на заперечення.

Ця ситуація підкреслює зростаючу роль штучного інтелекту в повсякденному житті та виклики, які вона створює. Джеффрі Хінтон, якого називають "хрещеним батьком" штучного інтелекту, на саміті Sana AI у Нью-Йорку заявляв, що людство створює новий вид істот, які незабаром перевершать нас за інтелектом.

Хінтон, британсько-канадський вчений, десятиліттями розробляв штучні нейронні мережі – технологію, що лежить в основі ChatGPT та інших сучасних систем ШІ. У 2024 році він отримав Нобелівську премію з фізики, а у 2023 році залишив Google, щоб відкрито говорити про потенційні небезпеки своїх розробок.

Історія Бена та зростаюча кількість скарг на ШІ-колекторів демонструють нагальну потребу в регулюванні та покращенні якості цих автоматизованих систем, щоб уникнути подальших непорозумінь та захистити споживачів.