С ChatGPT массово общаются люди с психическими расстройствами: чем это грозит

Более полумиллиона еженедельных пользователей ChatGPT демонстрируют признаки серьезных психических расстройств.

Об этом сообщает Daily Mail со ссылкой на обнародованный отчет компании OpenAI.

Кроме того, 1,2 миллиона пользователей еженедельно присылают сообщения, содержащие «явные признаки потенциального суицидального планирования или намерения».

Так же OpenAI предупреждает, что более миллиона пользователей еженедельно демонстрируют признаки «исключительной приверженности к модели».

Компания предупреждает, что эта эмоциональная привязанность часто возникает «в ущерб реальным отношениям, их благополучию или обязательствам».

Учитывая это, компания создала группу из более 170 экспертов по психическому здоровью, чтобы помочь искусственному интеллекту адекватно реагировать на признаки таких проблем у пользователей ChatGPT.

Это обновление появилось на фоне растущего беспокойства относительно того, что чат-боты с искусственным интеллектом могут вредить психическому здоровью своих пользователей.

В частности, к OpenAI судится семья Адама Рейна — подростка, который покончил жизнь самоубийством после месяцев разговоров с чат-ботом.

Аналогично, прокуроры по делу об убийстве-самоубийстве, которое произошло в Гринвиче, штат Коннектикут, предполагают, что ChatGPT подпитывал бред предполагаемого преступника.

OpenAI утверждает, что теперь научила свои модели предоставлять лучшие ответы на разговоры, которые свидетельствуют о проблемах с психическим здоровьем или бреду.

Представитель OpenAI также сообщил DailyMail, что конфиденциальные разговоры трудно обнаружить и измерить, добавив, что цифры могут существенно измениться по мере проведения дополнительных исследований.

Привычный жест с телефоном выдает ваше финансовое состояние / © www.freepik.com/free-photo Мишель Рэндольф / © Associated Press Владимир Зеленский с Урсулой фон дер Ляен / © Associated Press Ева Гейл