OpenAI впроваджує батьківський контроль у ChatGPT, щоб захистити підлітків

OpenAI пообіцяла впровадити систему батьківського контролю у ChatGPT протягом місяця. Після запуску батьки зможуть пов’язати свій обліковий запис із обліковими записами підлітків і контролювати, як чат-бот відповідає на їхні запити, зокрема відключати історію листування та пам’ять моделі. Платформа також почне надсилати автоматичні повідомлення, якщо виявить, що підліток перебуває у стані гострого дистресу. Механізм розробляється за участю експертів, щоб підтримувати довіру між батьками та дітьми.

Анонс відбувся після того, як OpenAI стала відповідачем у першому у світі позові щодо загибелі людини за участю ШІ. Батьки підлітка стверджують, що ChatGPT знав про чотири попередні спроби самогубства і допоміг спланувати його смерть, надаючи поради щодо способу та приховання слідів.

Компанія заявила, що батьківський контроль стане частиною ширшої стратегії безпеки. Для цього залучать спеціалістів із підліткового здоров’я, розладів харчової поведінки та вживання психоактивних речовин, щоб налаштувати поведінку моделей. Крім того, ChatGPT отримає новий механізм маршрутизації “реальний розподіл у реальному часі”, який направлятиме чутливі розмови через моделі з дискурсивним вирівнюванням, стійкі до провокаційних запитів. Якщо модель виявляє важкий емоційний стан користувача, діалог автоматично перенаправляється на модель, яка “розмірковує”.

OpenAI зазначила, що робота над безпекою продовжиться і після запуску, а план на найближчі 120 днів передбачає демонстрацію прогресу та реалізацію максимально можливих функцій безпеки до кінця року.