Розробник ChatGPT планує повідомляти владу про молодих людей, які планують самогубства

Сем Альтман, виконавчий директор OpenAI, висловив занепокоєння щодо можливих самогубств за допомогою ChatGPT. Компанія розглядає можливість інформування влади про суїцидальні наміри користувачів, особливо молоді.

Виконавчий директор компанії OpenAI, яка керує чат-ботом ChatGPT, Сем Альтман висловив побоювання, що до 1500 людей на тиждень, переважно молодь, можуть планувати самогубство за допомогою чат-бота, перш ніж вдатися до цього. Розробники чат-бота працюють над створенням системи запобігання таким ситуаціям, зокрема, інформування влади, повідомляє УНН із посиланням на The Guardian.

Деталі

Сьогодні кількість користувачів якого оцінюється в 700 мільйонів. Альтман заявив, що рішення навчити систему попереджати владу про такі надзвичайні ситуації ще не остаточне. Але він сказав, що "дуже розумно, що у випадках, коли молоді люди серйозно говорять про самогубство, коли ми не можемо зв’язатися з батьками, ми телефонуємо до влади".

Альтман наголосив на можливих змінах в інтерв'ю з подкастером Такером Карлсоном у середу, яке відбулося після того, як OpenAI та Альтмана подала до суду родина Адама Рейна, 16-річного підлітка з Каліфорнії, який покінчив життя самогубством після того, що адвокат його родини назвав "місяцями підтримки від ChatGPT".

Це допомогло підлітку зрозуміти, чи спрацює його метод самогубства. Чат-бот також запропонував допомогти йому написати передсмертну записку батькам, говориться у юридичниму позові.

Альтман сказав, що проблема самогубств користувачів не давала йому спати вночі. Не було одразу зрозуміло, до яких органів влади будуть звернені або яку інформацію має OpenAI, якою він може поділитися про користувача. Йдеться про номери телефонів або адреси, які можуть допомогти в наданні допомоги.

Це буде помітною зміною політики для компанії зі штучного інтелекту, сказав Альтман, який наголосив, що "конфіденційність користувачів справді важлива". Він сказав, що наразі, якщо користувач проявляє суїцидальні думки, ChatGPT закликає його "зателефонувати на гарячу лінію самогубств".

Після смерті Рейна у квітні компанія вартістю 500 мільярдів доларів заявила, що встановить "міцніші захисні бар'єри навколо чутливого контенту та ризикованої поведінки" для користувачів віком до 18 років. Також буде запроваджено батьківський контроль, щоб надати батькам "можливості отримати більше розуміння та впливати на те, як їхні підлітки використовують ChatGPT".

Щотижня 15 000 людей вчиняють самогубство. Близько 10% світу спілкуються з ChatGPT. Це приблизно 1500 людей на тиждень, які, якщо припустити, що це правильно, спілкуються з ChatGPT і все одно вчиняють самогубство в кінці. Вони, ймовірно, говорили про це. Ми, ймовірно, не врятували їм життя. Можливо, ми могли б сказати щось краще. Можливо, ми могли б бути більш проактивними. Можливо, ми могли б надати трохи кращу пораду на кшталт: "Гей, тобі потрібна ця допомога, або тобі потрібно подумати про цю проблему по-іншому, або справді варто продовжувати, і ми допоможемо тобі знайти когось, з ким ти можеш поговорити" 

Цифри самогубств, схоже, є загальносвітовою оцінкою. Всесвітня організація охорони здоров'я стверджує, що щороку понад 720 000 людей гине через самогубство.

Альтман також сказав, що ChatGPT зупинятиме деяких вразливих людей, які маніпулюють системою, щоб отримати поради щодо самогубства, вдаючи, що вони запитують інформацію для вигаданої історії, яку вони пишуть, або медичного дослідження.

Сем Альтман сказав, що було б розумно "для неповнолітніх користувачів і, можливо, користувачів, які загалом перебувають у вразливих психічних розладах", "позбавити їх певної свободи".

Ми повинні сказати: навіть якщо ви намагаєтеся написати історію або навіть якщо ви намагаєтеся провести медичне дослідження, ми просто не збираємося відповідати