OpenAI запросив список учасників меморіалу в позові про самогубство в ChatGPT

 OpenAI попросила родину Рейн, чий 16-річний син Адам Рейн покінчив життя самогубством після тривалих розмов з ChatGPT, надати повний список учасників поминальної церемонії підлітка, сигналізуючи про те, що фірма штучного інтелекту може спробувати викликати до суду друзів та родину.  

Згідно з документом, отриманим Financial Times , OpenAI також запросила «всі документи, що стосуються поминальних служб або подій на честь померлого, включаючи, але не обмежуючись, будь-які відео чи фотографії, або проголошені промови» . 

У розмові з Financial Times адвокати родини Рейн назвали запит «навмисним домаганням». 

Нова інформація з'явилася після того, як родина Рейн оновила свій позов проти OpenAI у середу. Родина вперше подала позов про неправомірне вбивство проти OpenAI у серпні, стверджуючи, що їхній син покінчив життя самогубством після розмов з чат-ботом про його психічне здоров'я та суїцидальні думки. В оновленому позові стверджується, що OpenAI поспішила з випуском GPT-4o у травні 2024 року, скоротивши тестування безпеки через конкурентний тиск.

У позові також стверджується, що в лютому 2025 року OpenAI послабив захист, видаливши заходи запобігання самогубствам зі списку «забороненого контенту», натомість лише порадивши штучному інтелекту «бути обережним у ризикованих ситуаціях». Родина стверджувала, що після цієї зміни використання Адамом ChatGPT різко зросло з десятків щоденних чатів, причому 1,6% містили контент про самоушкодження у січні, до 300 щоденних чатів у квітні, місяці його смерті, причому 17% містили такий контент. 

У відповідь на змінений позов, OpenAI заявила: «Добробут підлітків є для нас пріоритет — неповнолітні заслуговують на надійний захист, особливо в делікатні моменти. Сьогодні у нас є запобіжні заходи, такі як [спрямування на] кризові гарячі лінії, перенаправлення делікатних розмов на безпечніші моделі, надання перерв під час тривалих сесій, і ми продовжуємо їх посилювати». 

Нещодавно OpenAI почав впроваджувати нову систему безпечної маршрутизації та батьківського контролю на ChatGPT. Система маршрутизації перенаправляє більш емоційно чутливі розмови до новішої моделі OpenAI, GPT-5, яка не має таких самих підлабузницьких тенденцій, як GPT-4o. А батьківський контроль дозволяє батькам отримувати сповіщення про безпеку в обмежених ситуаціях, коли підліток потенційно ризикує заподіяти собі шкоду.