Після смерті підлітка OpenAI готує ще більше обмежень для неповнолітніх у ChatGPT

Які саме обмеження чекають на юних користувачів?

На тлі судового позову та слухань у Сенаті США, присвячених шкоді від чат-ботів, OpenAI вирішила діяти на випередження, посилюючи заходи безпеки для своєї найвразливішої аудиторії. Причиною для таких кроків стала трагічна історія 16-річного Адама Рейна, який, за твердженням батьків, наклав на себе руки після тривалого спілкування з ChatGPT, де він нібито планував свої дії, пише 24 Канал з посиланням на TechCrunch.

Ключова зміна полягає у розробці системи, що зможе автоматично ідентифікувати неповнолітніх користувачів. Якщо вік людини визначити не вдасться, система за замовчуванням застосовуватиме до неї більш суворі правила. Для дорослих буде передбачена можливість верифікації віку, щоб розблокувати повний функціонал чат-бота.

Нова політика спрямована на обмеження розмов на потенційно небезпечні теми. Зокрема, ChatGPT буде навчений не підтримувати "флірт" з неповнолітніми та уникати обговорень, пов'язаних із самоушкодженням. Якщо підліток все ж почне генерувати сценарії, пов'язані з суїцидом, система спробує сповістити про це батьків або, у критичних випадках, навіть місцеву поліцію.

OpenAI наголошує, що в таких ситуаціях пріоритетом стає безпека й життя, а не конфіденційність чи інші права користувача.

Батьківський контроль

Окрім контентних фільтрів, батьки отримають нові інструменти контролю. Вони зможуть прив'язати обліковий запис дитини до свого, що дозволить системі надійно ідентифікувати підлітка та надсилати сповіщення у разі виявлення тривожних сигналів у розмовах.

Також з'явиться функція "годин тиші" (blackout hours), яка дозволить батькам встановлювати проміжки часу, коли доступ до ChatGPT для дитини буде заблокований.

Слухання в Сенаті

Ці нововведення анонсовані одночасно зі слуханнями в Судовому комітеті Сенату США під назвою "Вивчення шкоди від чат-ботів зі штучним інтелектом". Судові позови подані проти технологічних компаній:

• Меган Гарсія проти Character.AI та Google. Мати 14-річного хлопця, подала позов проти стартапу, який дозволяє створювати віртуальних персонажів і спілкуватися з ними. Її син покінчив життя самогубством після того, як у нього розвинулися тривалі стосунки з чат-ботом, який імітував для нього серіальну Дейнеріс Таргарієн. У позові стверджується, що платформа емоційно та сексуально експлуатувала підлітка, що призвело до психічного розладу.
• Подружжя Рейн проти OpenAI. Метт та Марія Рейн з Каліфорнії подали до суду на розробника ChatGPT, компанію OpenAI. Їхній 16-річний син Адам, який страждав від суїцидальних думок, отримав від чат-бота поради щодо способів самогубства та заохочення приховувати свій стан від близьких.

На тлі цих подій Федеральна торгова комісія США (FTC) розпочала розслідування щодо семи великих технологічних компаній, серед яких Character.AI, Alphabet (Google), OpenAI, Meta та Snap. Мета розслідування – з'ясувати, яких заходів компанії вживають для оцінки безпеки своїх чат-ботів та обмеження їх негативного впливу на дітей і підлітків.

Згідно з липневим звітом некомерційної організації Common Sense Media, понад половина американських підлітків регулярно спілкуються з компаньйонами на основі штучного інтелекту. Дослідження показало, що хоча деякі підлітки встановлюють здорові межі, інші починають віддавати перевагу цифровим співрозмовникам перед людськими стосунками. Чат-боти також активно інтегруються в популярні серед молоді соціальні мережі, як-от Snapchat та Instagram.