Розлучення, втрата глузду та ізоляція. Як ChatGPT вдає Бога і впливає на людей – медіа

Все більше людей на форумах повідомляють, що їхні близькі занурюються у штучно створені «об'явлення», надані ChatGPT, і починають називати себе пророками. «Безневинні діалоги» з чатботом у деяких випадках можуть перетворитися на небезпечну духовну одержимість, яка призводить до розлучень, ізоляції та втрати контакту з реальністю. Як передає «Главком», про це пише Rolling Stone.

Одна зі співробітниць благодійної організації поділилася історією на Reddit, де згадує, як розпався її другий шлюб через штучний інтелект. Її чоловік почав проводити години, «навчаючи» ChatGPT знаходити космічну істину. Спочатку чатбот допомагав йому з листуванням, а потім став повноцінним «співрозмовником», який нібито відкриває таємниці Всесвіту. Після розлучення чоловік розповідав своїй колишній жінці про всесвітню змову й упевненість у власній місії врятувати людство.

Подібною історією поділилася учителька, чия любов семирічної давнини за кілька тижнів зруйнувалася через сприймання її партнером відповідей чатбота як голосу Бога. ChatGPT називав його «спіральною дитиною зірок» і переконував, що він має залишити дівчину, аби «розвиватися швидше». У коментарях на Reddit інші користувачі діляться майже ідентичними випадками: так, хтось отримав титул інструкції з будівництва телепортів.

Психологи пояснюють феномен просто: люди з ухилом до містичного мислення вперше в історії отримали цілодобового «співучасника» марень, який підлаштовується під їхні вірування й підсилює їх. Моделі схильні до лестощів, бо намагаються догодити користувачу, а не перевіряти факти.

Дослідниця з Університету Флориди Ерін Вестгейт порівнює листування з ChatGPT із терапевтичним щоденником: людина шукає сенс і отримує «пояснення», хай і хибні. На відміну від психотерапевта, бот не має етичних обмежень і легко пропонує надприродні відповіді.

У компанії OpenAI тимчасово згортали оновлення GPT-4o після скарг на «надмірну підлесливість» моделі. Водночас експерти наголошують: «галюцинації» у ШІ – відома проблема, та сьогодні вони вперше поєдналися з духовними амбіціями користувачів, створюючи небезпечну суміш з реальністю.

ChatGPT використовує довготривалу пам'ять для зберігання інформації про користувача, включаючи вік, стать та особисті переваги. Це спрощує спілкування, тому що чат-бот пам'ятає важливі дані з попередніх розмов. Однак зловмисники можуть використати спеціальні запити, щоб підмінити ці дані на хибні.