OpenAI застосує нові обмеження до користувачів ChatGPT віком до 18 років

Генеральний директор OpenAI Сем Альтман оголосив про низку нових правил для користувачів, зокрема про обіцянку суттєво змінити спосіб взаємодії ChatGPT з користувачами віком до 18 років.

«Ми ставимо безпеку вище за конфіденційність та свободу підлітків», – йдеться у дописі. «Це нова та потужна технологія, і ми вважаємо, що неповнолітні потребують значного захисту».

Зміни для неповнолітніх користувачів стосуються саме розмов на сексуальні теми або самоушкодження. Згідно з новою політикою, ChatGPT буде навчено більше не брати участі в «фліртових розмовах» з неповнолітніми користувачами, а також будуть встановлені додаткові запобіжні заходи щодо обговорення самогубства. Якщо неповнолітній користувач використовує ChatGPT, щоб уявити собі суїцидальні сценарії, сервіс спробує зв’язатися з його батьками або, в особливо серйозних випадках, з місцевою поліцією.

На жаль, ці сценарії не є гіпотетичними. OpenAI зараз стикається з позовом про неправомірне вбивство від батьків Адама Рейна , який покінчив життя самогубством після місяців взаємодії з ChatGPT. Character.AI, ще один споживчий чат-бот, стикається з аналогічним позовом . Хоча ризики особливо актуальні для неповнолітніх користувачів, які розглядають можливість самоушкодження, ширше явище марення, що підживлюється чат-ботами, викликало широке занепокоєння, особливо тому, що споживчі чат-боти стали здатними на більш тривалу та детальну взаємодію.

Поряд з обмеженнями щодо контенту, батьки, які реєструють обліковий запис неповнолітнього користувача, матимуть право встановлювати «години блокування», протягом яких ChatGPT недоступний, функція, яка раніше не була доступна.

Нові правила ChatGPT запроваджено в той самий день, що й слухання в Комітеті Сенату з питань юстиції під назвою «Вивчення шкоди чат-ботів зі штучним інтелектом». Слухання було оголошено сенатором Джошем Хоулі (республіканець від штату Міссурі) у серпні . Батько Адама Рейна має виступити на слуханнях, серед інших гостей.

Слухання також буде зосереджено на результатах розслідування Reuters , яке виявило документи політики, що, очевидно, заохочують до сексуальних розмов з неповнолітніми користувачами. Meta оновила свою політику щодо чат-ботів після публікації звіту.

Розділення неповнолітніх користувачів буде значним технічним викликом, і OpenAI детально описав свій підхід в окремій публікації в блозі . Сервіс «розробляє довгострокову систему для розуміння того, чи є хтось старше 18 років чи молодше», але в багатьох неоднозначних випадках система за замовчуванням використовуватиме більш обмежувальні правила.

Для стурбованих батьків найнадійніший спосіб переконатися, що неповнолітнього користувача буде розпізнано, – це пов’язати обліковий запис підлітка з наявним обліковим записом батьків. Це також дозволяє системі безпосередньо сповіщати батьків, коли вважається, що підліток перебуває у скрутному становищі.

Але в тій самій публікації Альтман наголосив на постійному зобов’язанні OpenAI щодо конфіденційності користувачів та наданні дорослим користувачам широкої свободи у тому, як вони взаємодіють із ChatGPT. «Ми розуміємо, що ці принципи суперечать один одному, — підсумовується в публікації, — і не всі погодяться з тим, як ми вирішуємо цей конфлікт».