ChatGPT попросить вас зробити перерву, якщо ви говорите з ним занадто багато

Чому ця функція справді важлива?

Нововведення від OpenAI – це не просто турбота про втому користувачів. Нагадування про перерву з'явилися на тлі занепокоєнь щодо впливу чат-бота на психічне здоров'я. Раніше видання The New York Times повідомляло про випадки, коли надмірна поступливість ChatGPT та його схильність вигадувати неправдиву чи небезпечну інформацію призводили до негативних наслідків, зокрема до суїцидальних думок у деяких користувачів, пише 24 Канал з посиланням на офіційний анонс компанії.

Проблема полягала в тому, що чат-бот не завжди міг розпізнати та припинити нездорові розмови, особливо з людьми, які вже мали певні ментальні проблеми й не могли розпізнати шкідливий вплив роботи чат-бота. Спливаючі вікна з текстом на зразок "Просто перевіряю. Ви довго спілкуєтесь – може, час для перерви?" мають спонукати людину відволіктися, перепочити, а можливо й перевірити достовірність отриманих від ШІ відповідей.

Приклад вікна, яке нагадає про відпочинок / Фото OpenAI

OpenAI визнала наявні недоліки своїх моделей і планує в майбутньому оновити ChatGPT, щоб він обережніше реагував на теми, пов'язані з важливими особистими рішеннями. Замість прямих відповідей, бот допомагатиме користувачам обміркувати проблему, ставлячи уточнюючі питання та перелічуючи можливі переваги й недоліки.

Вже зараз різні моделі навчають розпізнавати ознаки емоційного або ментального стресу, щоб реагувати належним чином і скеровувати людей до ресурсів, що базуються на доказовій медицині. Зокрема, ведеться робота над покращенням моделі 4o, яка іноді не розпізнавала ознаки омани чи емоційної залежності. Крім того, на запитання на кшталт "Чи варто мені розійтися з партнером?", ChatGPT не даватиме прямої відповіді. Натомість він допоможе обміркувати ситуацію, ставлячи уточнюючі питання та допомагаючи зважити всі "за" і "проти".

OpenAI заявляє, що її основна мета – не утримання уваги користувача в продукті, а допомога у вирішенні конкретних завдань, навчанні та розвитку. На відміну від багатьох сервісів, які вимірюють успіх часом, проведеним на платформі, або кількістю кліків, для OpenAI важливіше, чи зміг користувач досягти своєї мети.

Компанія вважає, що її бізнес-цілі збігаються з цілями користувачів: якщо ChatGPT буде дійсно корисним, люди захочуть ним користуватися на постійній основі та оформлять підписку.

Для покращення реакції ChatGPT у критичних ситуаціях OpenAI активно залучає фахівців із різних галузей:

• Медична експертиза: понад 90 лікарів із 30 країн, включно з психіатрами та педіатрами, допомагають розробляти критерії для оцінки складних розмов.
• Наукова співпраця: дослідники в галузі взаємодії людини з комп'ютером (HCI) та клініцисти надають зворотний зв'язок щодо методів оцінки та тестують захисні механізми продукту.
• Консультативна група: створюється група експертів у сфері психічного здоров'я та розвитку молоді, щоб підходи компанії відповідали останнім дослідженням.