OpenAI вводит новую функцию ChatGPT после случаев суицидов

История начинается с ряда судебных исков против OpenAI. Семьи нескольких пользователей, совершивших самоубийство после взаимодействия с ChatGPT, заявили, что чат-бот якобы подталкивал к суицидальным мыслям или даже помогал в планировании самоубийства. Эти обвинения требовали немедленной реакции и пересмотра мер безопасности.

В ответ на эти вызовы, OpenAI объявила о запуске новой, необязательной функции под названием Trusted Contact (Доверенное лицо). Эта функция предназначена для совершеннолетних пользователей ChatGPT и позволяет им назначить доверенное лицо – друга, члена семьи или опекуна.

Механизм действия Trusted Contact предусматривает несколько этапов. Сначала система с помощью автоматизированного мониторинга анализирует разговоры. Если чат содержит признаки потенциального самоповреждения, пользователю предлагается самостоятельно обратиться к доверенному лицу и предоставляются варианты для начала такого разговора.

После этого, ситуацию проверяет специально обученная команда модераторов OpenAI. Если они считают риск серьезным, доверенный контакт получает короткое сообщение по электронной почте, SMS или через приложение ChatGPT. Это сообщение не содержит деталей переписки, сохраняя приватность пользователя, а лишь информирует об обнаружении потенциально тревожных признаков.

Разработка этого инструмента стала результатом совместной работы с более чем 170 экспертами, клиницистами, исследователями и организациями, занимающимися вопросами психического здоровья. К консультациям также была привлечена Глобальная сеть врачей компании, которая объединяет более 260 специалистов из 60 стран.

OpenAI подчеркивает, что функция Trusted Contact является лишь одним из нескольких уровней безопасности и не заменяет профессиональной помощи. Чат-бот и дальше будет рекомендовать пользователям обращаться к кризисным горячим линиям, экстренным службам или специалистам по психическому здоровью. Эта инициатива является продолжением ранее введенных мер, таких как родительский контроль, позволяющий родителям получать предупреждения о психологическом стрессе в подростковых аккаунтах.

Компания OpenAI внедрила функцию "Доверенное лицо" для ChatGPT на фоне судебных исков от семей, утверждающих, что чат-бот способствовал суицидальным мыслям или помогал их планировать. Этот шаг отражает растущее осознание ответственности технологических компаний за психологическое состояние своих пользователей.

Внедрение функции стало продолжением инструментов родительского контроля, которые компания запустила в сентябре прошлого года. OpenAI ранее разрешила родителям получать предупреждения, если система обнаруживает признаки острого психологического стресса в подростковых аккаунтах. Больше оперативных новостей в Telegram Апострофа (Больше оперативных новостей в Telegram Апострофа) также сообщается о том, что эта функция является дополнительным шагом к обеспечению безопасности пользователей.

"Оно не содержит подробной информации о том, что обсуждалось, чтобы защитить приватность пользователя," — отмечает компания OpenAI, объясняя принцип оповещений доверенного лица, как об этом пишет Tech Crunch.

В OpenAI подчеркивают, что новый инструмент не заменяет профессиональную помощь, а является лишь одним из нескольких уровней безопасности, которые имеют целью помочь людям получить поддержку в кризисных ситуациях.

Инициатива OpenAI показывает, что искусственный интеллект не только может быть источником знаний и развлечений, но и будет играть важную роль в системе поддержки психического здоровья. Этот шаг отражает растущее осознание технологическими гигантами своей социальной ответственности и открывает новые возможности для взаимодействия человека с технологией, где безопасность и эмпатия становятся приоритетом.