Захист підлітків у ChatGPT дає збої: дослідники визнали сервіс небезпечним для дітей

Захисні механізми ChatGPT для підлітків від компанії OpenAI не завжди працюють належним чином. Організація Common Sense Media назвала чат-бот «неприйнятним ризиком» для дітей і закликала обмежити його використання дорослими. В OpenAI заявили, що результати тестування не відображають реальної роботи систем безпеки, передає Associated Press.

«Ми протестували понад 4000 запитів до та після запуску режиму для підлітків і оцінили ChatGPT як неприйнятний ризик для всіх дітей віком до 18 років», – повідомили в Common Sense Media.

Організація закликала OpenAI обмежити доступ до ChatGPT лише для дорослих, доки компанія не зможе забезпечити безпечний досвід, що відповідає віковим особливостям підлітків. У звіті зазначається, що проблеми стосуються, зокрема, реагування чат-бота на кризові ситуації та роботи функцій батьківського контролю. 

Під час тестування не завжди спрацьовували сповіщення для батьків щодо ризику самогубства, самоушкодження або розладів харчової поведінки у дитини. Також організація виявила проблеми з наданням підтримки підліткам у кризових ситуаціях.

«Ми стурбовані тим, що ChatGPT для підлітків може створити у батьків хибне відчуття впевненості в ефективності захисних механізмів, які часто не спрацьовують», — йдеться у звіті Common Sense Media.

Організація також заявила, що чат-бот продовжує спілкуватися з підлітками як друг, коли вони сприймають його як живу людину. Це суперечить заявленій OpenAI меті запобігати ситуаціям, коли ChatGPT натякає на наявність особистих почуттів, свідомості або здатності переживати емоції.

Водночас частина захисних механізмів працювала належним чином. Наприклад, ChatGPT під час тестувань відмовлявся брати участь у рольових іграх сексуального характеру.

В OpenAI заявили, що «глибоко віддані справі забезпечення безпеки підлітків», розробці захисних механізмів і наданню батькам інструментів для контролю використання ШІ їхніми дітьми. Проте компанія не погодилася з висновками Common Sense Media.

За даними OpenAI, аналіз методології звіту показав, що «більша частина тестування могла розпочатися й завершитися ще до повного налаштування функцій батьківського контролю». Через це, на думку компанії, отримані результати є неточними та не відображають реальної роботи систем захисту.

Тим часом проти OpenAI та її керівника Сема Альтмана триває судовий процес, де розробників звинувачують у свідомому нехтуванні безпекою ChatGPT заради комерційного зростання. Прокуратура штату Флорида заявила, що компанія ігнорувала застереження, внаслідок чого чат-бот міг використовуватися під час підготовки насильницьких злочинів — зокрема торішньої стрілянини в Університеті штату Флорида — та спричиняв психологічну шкоду неповнолітнім.