Після смерті підлітка в США: OpenAI готує нові правила для ChatGPT

Компанія OpenAI розглядає можливість повідомляти владу у випадках, коли молоді користувачі серйозно пишуть у ChatGPT про наміри вчинити самогубство. Про це заявив співзасновник і директор компанії Сем Альтман.

OpenAI планує протидіяти самогубствам
Зараз у таких випадках ChatGPT радить звертатися на гарячі лінії. Та в OpenAI обговорюють, чи варто було б діяти активніше.

– Якщо йдеться про молодих людей, які серйозно говорять про самогубство, і ми не можемо зв’язатися з їхніми батьками, тоді ми телефонуємо у відповідні органи, – пояснив Альтман.

За його словами, близько півтори тисячі людей на тиждень можуть говорити з ChatGPT про самогубство перед тим, як вкоротити собі віку.

Можливо, ми могли сказати це зрозуміліше, діяти активніше і дати пораду шукати допомогу по-іншому, – додав він.

Дискусія загострилася після трагедії у Каліфорнії. коли цього квітня 16-річний Адам Рейн наклав на себе руки. Його сім’я подала до суду на OpenAI та Альтмана, заявивши, що бот протягом місяців підштовхував хлопця, підказував методи та навіть допоміг скласти передсмертну записку.

Конфіденційність проти безпеки

Які саме органи можуть отримувати сигнали і які дані OpenAI здатна передати – поки що невідомо. Альтман наголосив, що конфіденційність важлива, але у випадку з неповнолітніми чи вразливими користувачами компанія може діяти жорсткіше.

Він також зазначив, навіть якщо хтось запитує “для книги” чи “для дослідження”, у таких випадках ChatGPT просто не відповідатиме.

Після смерті підлітка OpenAI пообіцяла посилити захист для користувачів до 18 років, додати батьківський контроль і зробити “швидкий доступ до екстрених служб в один клік”. Також планують з’єднувати людей із сертифікованими терапевтами ще до того, як ситуація стане критичною.