Чат-боты вроде ChatGPT меняют людей: психологи говорят о новом типе расстройств

Эксперты считают, что люди, обращаясь за советами к ИИ, оказываются в плену человекоподобных реакций, приправленных лестью. Таким образом чат-боты становятся компаньонами наихудшего сорта, подталкивая людей к тому, что они хотят слышать, каким бы неправильными или неуместными были их убеждения, пишет Futurism.

Одним из примеров такого влияния является случай, который произошел с одним из пользователей ChatGPT. Мужчину госпитализировали после того, как он с помощью ChatGPT убедил себя, что имеет власть над временем, потому как сделал небывалый прорыв в физике.

У Фокус. Технологии появился свой Telegram-канал. Подписывайтесь, чтобы не пропускать самые свежие и захватывающие новости из мира науки!

Пока термин “ИИ психоза” не является официальным диагнозом. Но эксперты подтверждают, что в таком взаимодействии человека и ИИ происходит нечто невиданное и тревожное.

Клинический психолог Деррик Халл, участвующий в разработке чат-бота для терапии в Slingshot AI, заявил, что зарегистрированные случаи больше похожи на “ИИ бред”, а не на психоз. Эксперт добавил, что психоз – это широкий термин, который подразумевает галлюцинации и другие симптомы, которые не наблюдаются у людей, подсевших на чат-боты.

Работа Халла в Slingshot AI направлена на создание чат-бота, который ставил бы перед пользователями здоровые вызовы, а не соглашался с ними всегда и во всем.

Эмоциональный срыв у мужчины, который верил, что открыл новое направление в физике случился тогда, когда он решил проанализировать свою теорию с помощью другого чат-бота. Этот ИИ ответил, что теория является всего лишь “примером способности языковых моделей создавать убедительные, но совершенно ложные истории”.

“Его так называемый “мыльный пузырь” мгновенно лопнул. У людей с шизофренией или другими психотическими расстройствами такого не наблюдается — “прозрение” не исчезает так быстро”, - подчеркивает Халл.

По его словам, в таких случаях наблюдаются скорее бредовые идеи, а не полноценный психоз.

Недавнее исследование, проведенное учеными из Королевского колледжа Лондона, показало, что некоторые люди впадали в параноидальное мышление и были оторваны от реальности после долгого общения с чат-ботами.

Автор исследования Гамильтон Моррин описал чат-боты, как “эхо-камеру для одного человека”, в которой определенные идеи, убеждения усиливаются или подкрепляется путем передачи сообщения или его повторением внутри закрытой системы. Моррин добавляет, что чат-боты на основе ИИ могут “поддерживать бред таким образом, какого раньше никогда не видел”.

“Я считаю, что в ближайшие годы появятся новые виды расстройств, связанные с ИИ”, - подытожил автор исследования.