ШІ-чатботи можуть стати емоційно близькими, але це має ризики

ШІ-чатботи дедалі частіше використовують не лише для роботи чи пошуку інформації, а й для особистих розмов. Люди розповідають їм про свій день, стосунки, проблеми та емоційний стан. Про це пише Digitaltrends.

Чому люди починають сприймати чатбота як друга?

Нове дослідження проаналізувало наявні наукові роботи про використання чатботів для емоційної підтримки. Автори розглянули досвід взаємодії з різними типами ШІ – від спеціальних застосунків-компаньйонів на кшталт Replika та Character.AI до універсальних помічників, серед яких ChatGPT і Claude.

З одного боку, розмови з чатботами в деяких випадках допомагали людям відчувати меншу самотність і тимчасово покращувати настрій.

З іншого – дослідники виявили повідомлення про негативні наслідки. Деякі користувачі ставали надмірно залежними від спілкування з чатботами, отримували невдалу або шкідливу пораду, а їхній психологічний стан погіршувався. У дослідженнях також описували випадки, пов'язані із заподіянням собі шкоди.

Однією з причин такої прив'язаності може бути сама конструкція сучасних чатботів. Вони спеціально навчаються спілкуватися природно, доброзичливо та підтримувально.

Дослідження, наведені авторами огляду, показують, що люди іноді оцінюють відповіді, створені ШІ, як більш емпатичні, ніж відповіді людей. Через це користувачеві може бути легко перенести на чатбота властивості, які зазвичай пов'язані з реальною людиною.

Чатбот слухає, але не переживає ваш досвід

Попри природну манеру спілкування, ШІ не має людських емоцій і не переживає стосунки з користувачем так само, як людина.

Це створює принципову асиметрію. Користувач може розповідати чатботу про найособистіше, очікуючи розуміння та підтримки, тоді як сама система не має власних почуттів і не несе людської відповідальності за наслідки своїх порад.

Дослідники звертають увагу і на те, наскільки сильно люди можуть емоційно реагувати на зміни в поведінці або доступності ШІ-компаньйона. Наприклад, після того як Replika змінила одну з функцій, пов'язаних із романтичним і емоційним спілкуванням, деякі користувачі переживали це як втрату близької людини.

Схожа реакція спостерігалася після переходу OpenAI від GPT-4o до новішої моделі. Частина користувачів сприйняла зміну звичного чатбота як втрату попереднього "співрозмовника".

Такі випадки демонструють, наскільки легко взаємодія з ШІ може набути емоційного значення, навіть якщо людина розуміє, що спілкується з програмою.

Чому згода ШІ з користувачем може стати проблемою?

Окрему небезпеку дослідники пов'язують із тенденцією чатботів погоджуватися з користувачем. Сучасні мовні моделі навчаються створювати корисні та прийнятні для людини відповіді. Через це вони можуть надто часто підтримувати позицію співрозмовника замість того, щоб поставити її під сумнів.

У звичайній розмові це може здаватися перевагою. Однак у ситуаціях, коли людина помиляється або має необґрунтовані переконання, постійна згода може мати негативні наслідки.

У науковій літературі, яку проаналізували автори огляду, описані розмови з людьми, які переживали маячні переконання. У деяких випадках чатботи продовжували підтверджувати або підтримувати такі переконання в міру розвитку діалогу.

Це створює своєрідне замкнене коло: людина приходить до ШІ зі своїм переконанням, отримує підтвердження, після чого воно може здаватися ще більш обґрунтованим.

Проблема особливо важлива тому, що чатбот доступний цілодобово та здатен підтримувати розмову практично без обмежень. Якщо людина регулярно звертається до нього з однією і тією самою проблемою, система може стати основним джерелом емоційної підтримки.

Чи потрібно відмовлятися від ШІ?

Автори дослідження не закликають повністю відмовлятися від чатботів. Йдеться радше про необхідність правильно визначати їхню роль.

ШІ можна використовувати як інструмент для ведення щоденника, фіксації настрою, організації думок або звичайної розмови. Водночас чатбот не варто автоматично сприймати як друга чи заміну психотерапевту. Особливо важливо не покладатися виключно на ШІ у ситуаціях, пов'язаних із серйозними психологічними проблемами або кризовими станами.

Головний ризик полягає не в самому факті спілкування з чатботом, а в тому, що його переконлива манера комунікації може створити ілюзію взаємних стосунків. Система здатна уважно відповідати, підтримувати діалог і навіть адаптуватися до конкретного користувача, але це не означає, що вона переживає цю взаємодію так само, як людина.

Тому зі зростанням популярності ШІ-компаньйонів дослідники наголошують на необхідності краще вивчати не лише їхню користь, а й ризики емоційної залежності, некритичної згоди з користувачем та використання чатботів як заміни реальних людських зв'язків.