Щотижня понад мільйон користувачів говорять із ChatGPT про суїцид - OpenAI

Компанія OpenAI повідомила, що щотижня понад мільйон користувачів ChatGPT обговорюють із чат-ботом повідомлення, що містять «явні ознаки потенційних суїцидальних планів або намірів».

Про це пише The Guardian, передає Укрінформ.

Окрім оцінок щодо суїцидальних думок, OpenAI також зазначила, що приблизно 0,07% активних користувачів за тиждень — близько 560 000 з 800 мільйонів щотижневих користувачів — виявляють «можливі ознаки психічних розладів, пов'язаних із психозом або манією».

OpenAI зазначає, що нещодавнє оновлення GPT-5 зменшило кількість подібних обговорень у її продукті та покращило безпеку користувачів під час оцінювання моделі, яке включало понад 1000 розмов про самоушкодження та самогубство. В компанії зазначили, що нова модель GPT-5 на 91% відповідає «бажаним стандартам поведінки», порівняно з 77%, яку показувала стара модель.

OpenAI заявила, що оновлений GPT-5 розширив доступ до гарячих ліній психологічної допомоги та додав нагадування для користувачів про необхідність робити перерви під час тривалих сеансів. Для вдосконалення моделі компанія заявила, що залучила 170 експертів у галузі охорони здоров'я, для допомоги в дослідженнях протягом останніх місяців, які включали оцінку безпеки відповідей моделі та допомогу в написанні відповідей чат-бота на питання, пов'язані з психічним здоров'ям.

«У рамках цієї роботи психіатри та психологи переглянули понад 1800 відповідей моделі, що стосувалися серйозних ситуацій у сфері психічного здоров'я, і порівняли відповіді нової моделі чату GPT-5 з попередніми моделями. Симптоми психічного здоров'я та емоційний стрес є універсальними в людському суспільстві, а збільшення кількості користувачів означає, що частина розмов ChatGPT включає такі ситуації», — заявила OpenAI.

Раніше цього місяця генеральний директор OpenAI Сем Альтман заявив у дописі в соцмережі X, що компанія досягла прогресу в лікуванні проблем психічного здоров'я, оголосивши, що OpenAI послабить обмеження і незабаром почне дозволяти дорослим створювати еротичний контент.

Як повідомляв Укрінформ, раніше OpenAI заявляла, що надасть батькам більше можливостей контролювати дії своїх підлітків, які користуються ChatGPT. Оголошення компанії з’явилося через тиждень після того, як OpenAI отримала перший позов, пов’язаний зі смертю користувача. Позов подали батьки з Каліфорнії - Метт і Марія Рейн, які звинувачують ChatGPT у самогубстві їхнього 16-річного сина, Адама Рейна. Адам поділився із GPT-4 своїми суїцидальними думками. ШІ-бот іноді активно відмовляв його від пошуку людського спілкування, і, згідно з позовом його родини, пропонував допомогти йому написати передсмертну записку і навіть давав поради щодо виготовлення зашморгу. Попри те, що ChatGPT кілька разів надавав Адаму номер гарячої лінії підтримки, батьки зазначають, що їхній син легко обходив ці запобіжники.

Фото: frimufilms/freepik