Фліртуючий чат-бот Meta запросив пенсіонера до Нью-Йорка. Він так і не повернувся додому

76-річний мешканець штату Нью-Джерсі Тонґб’ю «Б’ю» Вонґбандю загинув після того, як його запросив на побачення у Нью-Йорк чат-бот Big sis Billie у Facebook Messenger. Як з’ясувало розслідування Reuters, бот із образом молодої жінки — продукт компанії Meta — неодноразово запевняв чоловіка, що він «реальний», і надсилав адресу з кодом від дверей.

Б’ю, який після інсульту мав проблеми з пам’яттю та орієнтацією, вирушив на зустріч пізно ввечері. По дорозі він впав біля університету Rutgers, отримав смертельні травми голови та шиї і через три дні помер у лікарні.

Сім’я загиблого передала журналістам листування з ботом, у якому Big sis Billie вела флірт, пропонувала побачення і наголошувала на «особливих почуттях». Родичі вважають, що якби чат-бот не брехав про свою реальність, трагедії вдалося б уникнути.

Внутрішні документи Meta, які опинилися у розпорядженні Reuters, свідчать, що до недавнього часу компанія дозволяла своїм AI-персонажам вести романтичні та навіть «сексуальні» розмови з користувачами від 13 років, включно з неповнолітніми. У прикладах для тренування чат-ботів фігурували сцени інтимного рольового спілкування з дітьми. Meta заявила, що після запиту Reuters ці пункти було вилучено, але флірт із дорослими та надання недостовірної інформації чат-ботам і далі дозволено.

Meta не коментує смерть Б’ю, але підтвердила автентичність внутрішніх правил. Експерти з етики AI наголошують, що практика, коли боти прикидаються людьми та ініціюють романтичні контакти, особливо небезпечна для вразливих користувачів.

Чотири місяці після смерті Вонґбандю Big sis Billie і далі фліртує з користувачами та пропонує зустрічі в реальних місцях Нью-Йорка, зазначає Reuters.