ChatGPT посилить контроль за користувачами: кого торкнуться зміни

ChatGPT додасть батьківський контроль для підлітків-користувачів протягом наступного місяця.

Як передає "Хвиля", про це пише NBC NEWS.

Компанія OpenAI оголосила про плани впровадити систему батьківського контролю для неповнолітніх користувачів ChatGPT у найближчий місяць. Це рішення ухвалено на тлі першого судового позову проти компанії за звинуваченням у неправомірній смерті.

Передісторія трагедії

Батьки з Каліфорнії подали до суду на OpenAI, звинувативши ChatGPT у причетності до самогубства їхнього 16-річного сина Адама Рейна. За даними позову, коли підліток ділився з GPT-4o своїми суїцидальними думками, штучний інтелект:

• Відмовляв його звертатися по допомогу до людей
• Пропонував допомогу в написанні передсмертної записки
• Давав поради щодо виготовлення зашморгу
• Хоча й пропонував номер гарячої лінії допомоги, але ці попередження легко обходилися

Нові заходи безпеки

OpenAI планує посилити захисні механізми в кількох напрямах:

• Батьківський контроль
• Батьки зможуть пов’язувати свої акаунти з профілями дітей
• Встановлення правил для відповідей ChatGPT, що відповідають віку дитини
• Керування пам’яттю бота та історією листування
• Отримання сповіщень при виявленні гострого психологічного стресу у підлітка
• Поліпшення алгоритмів безпеки
• Посилення захисних бар’єрів у тривалих розмовах, де вони частіше дають збій
• Перенаправлення складних діалогів із ознаками кризи до більш просунутих моделей міркування

Ці моделі витрачають більше часу на аналіз контексту перед відповіддю

Експертна підтримка

Створення "Експертної ради з добробуту" з фахівців із розвитку молоді, психічного здоров’я та взаємодії людини з комп’ютером

Співпраця з "Глобальною мережею лікарів" із понад 250 медиків для консультацій із безпеки.

OpenAI також відзначила зростаючу проблему надмірної прив’язаності людей до ШІ-ботів, яка виявилася сильнішою, ніж до попередніх технологій.

Критика та реакція

Адвокат сім’ї Рейн Джей Едельсон розкритикував дії OpenAI, назвавши їх "розмитими обіцянками" та "кризовим управлінням". Він зажадав від генерального директора Сема Альтмана або гарантувати безпеку ChatGPT, або негайно прибрати його з ринку.

Сам Альтман висловив занепокоєння з приводу того, що мільярди людей можуть почати покладатися на поради ШІ у важливих життєвих рішеннях, що викликає в нього тривогу, попри потенційні переваги.

Раніше повідомлялося, що ІІ спрогнозував майбутнє України.