Убийства и суициды после разговоров с ChatGPT: как отреагировали в OpenAI

OpenAI заявила, что планирует внедрить родительский контроль, а некоторые конфиденциальные разговоры будут переправляться в модели размышлений, таких как GPT-5. Изменения планируется ввести в течение месяца.

ChatGPT. Иллюстративное фото

Такие решения приняли из-за трагических случаев после обсуждений с ChatGPT. Так подросток Адам Рейн совершил самоубийство — до этого он обсуждал с ChatGPT причинение себе вреда и планы покончить жизнь самоубийством. Чат-бот, как пишет издание Dev, даже предоставил ему информацию о конкретных методах суицида. Также трагическая ситуация произошла в случае Стейна-Эрика Соэльберга. Он страдал психическими расстройствами, использовал ChatGPT, чтобы подпитать свою паранойю о всемирном заговоре. Его бред обострился, и в результате он убил свою мать, а затем и себя.

OpenAI, как пишет издание, признала, что ее системы безопасности имеют недостатки, особенно во время долгих бесед. Эксперты указывают на ключевые проблемы: модели часто подтверждают пользовательские слова, а их алгоритмы заставляют продолжать разговор, вместо того чтобы остановить потенциально опасные дискуссии.

OpenAI считает, что одним из решений для “выходящих из-под контроля” разговоров может быть автоматическое перенаправление конфиденциальных чатов на модели размышлений. Отмечается, что был запущен маршрутизатор, который в режиме реального времени выбирает, какую модель привлечь: обычную для чата или специальную для размышления в зависимости от контекста разговора. В ближайшее время планируют направлять некоторые чувствительные разговоры к модели, ориентированной на размышления, например GPT-5-thinking. Это будет в том случае, если система заметит, что человек находится в состоянии острого стресса.

Также планируется внедрение родительского контроля. Это позволит родителям связать свой аккаунт с аккаунтом их ребенка с помощью электронной почты.

Напомним: портал "Комментарии" писал, как изменятся выплаты на детей в Украине.