Щотижня мільйон користувачів використовує ChatGPT як заміну психолога чи психіатра

Компанія OpenAI оприлюднила нові оцінки щодо кількості користувачів чат-бот на основі штучного інтелекту ChatGPT, які можуть проявляти ознаки психічних криз, зокрема манії або психозу. Про це пише BBC.

Компанія повідомила, що близько 0,07% активних користувачів ChatGPT на тиждень демонструють такі ознаки, додавши, що її штучний інтелект (ШІ) розпізнає та реагує на ці чутливі розмови. OpenAI називає ці випадки "надзвичайно рідкісними". Проте критики зауважують, що навіть невеликий відсоток може означати сотні тисяч людей, оскільки компанія нещодавно повідомила, що щотижня ChatGPT має 800 мільйонів активних користувачів.

У компанії зазначили, що вони створили мережу експертів по всьому світу для консультацій. Ця мережа включає понад 170 психіатрів, психологів і лікарів загальної практики, які працювали в 60 країнах, зазначили в OpenAI. Вони також розробили низку відповідей у ChatGPT, щоб заохотити користувачів звертатися за допомогою у реальному житті.

Компанія також оцінює, що 0,15% користувачів ChatGPT ведуть розмови з "чіткими ознаками потенційного планування або наміру до суїциду". OpenAI зазначила, що останні оновлення чат-бота створені для "безпечної та емпатійної реакції на потенційні ознаки марення чи манії" і фіксації "непрямих сигналів потенційного самопошкодження або суїциду". ChatGPT також навчений перенаправляти чутливі розмови "з інших моделей на безпечніші моделі", відкриваючи їх у новому вікні.

• 17 вересня гендиректор OpenAI Сем Альтман повідомив, що компанія OpenAI планує обмежити відповіді ChatGPT для користувачів, яких система визначає як неповнолітніх. Також OpenAI анонсував ChatGPT із батьківським контролем.
• 26 серпня американський бізнесмен Ілон Маск подав позов проти OpenAI та Apple, звинувативши їх у монополії на ринку ШІ та мобільних додатків.
• Кореспондент Коротко про писала про те, чим небезпечна нова мода на ШІ-психологів: штучний інтелект слухає, але не відчуває.