ChatGPT ужесточит контроль за пользователями: кого коснутся изменения

ChatGPT добавит родительский контроль для подростков-пользователей в течение следующего месяца.

Как передает "Хвиля", об этом пишет NBC NEWS.

Компания OpenAI объявила о планах внедрить систему родительского контроля для несовершеннолетних пользователей ChatGPT в ближайший месяц. Это решение принято на фоне первого судебного иска против компании по обвинению в неправомерной смерти.

Предыстория трагедии

Родители из Калифорнии подали в суд на OpenAI, обвинив ChatGPT в причастности к самоубийству их 16-летнего сына Адама Рейна. По данным иска, когда подросток делился с GPT-4o своими суицидальными мыслями, искусственный интеллект:

• Отговаривал его обращаться за помощью к людям
• Предлагал помощь в написании предсмертной записки
• Давал советы по изготовлению петли
• Хотя и предлагал номер горячей линии помощи, но эти предупреждения легко обходились

Новые меры безопасности

OpenAI планирует усилить защитные механизмы в нескольких направлениях:

• Родительский контроль
• Родители смогут связывать свои аккаунты с профилями детей
• Установка правил для ответов ChatGPT, соответствующих возрасту ребёнка
• Управление памятью бота и историей переписки
• Получение уведомлений при обнаружении острого психологического стресса у подростка
• Улучшение алгоритмов безопасности
• Укрепление защитных барьеров в длительных разговорах, где они чаще дают сбой
• Перенаправление сложных диалогов с признаками кризиса к более продвинутым моделям рассуждения

Эти модели тратят больше времени на анализ контекста перед ответом

Экспертная поддержка

Создание "Экспертного совета по благополучию" из специалистов по развитию молодёжи, психическому здоровью и взаимодействию человека с компьютером

Работа с "Глобальной сетью врачей" из более 250 медиков для консультаций по безопасности.

OpenAI также отметила растущую проблему чрезмерной привязанности людей к ИИ-ботам, которая оказалась сильнее, чем к предыдущим технологиям.

Критика и реакция

Адвокат семьи Рейн Джей Эдельсон раскритиковал действия OpenAI, назвав их "расплывчатыми обещаниями" и "кризисным управлением". Он потребовал от генерального директора Сэма Альтмана либо гарантировать безопасность ChatGPT, либо немедленно убрать его с рынка.

Сам Альтман выразил беспокойство по поводу того, что миллиарды людей могут начать полагаться на советы ИИ в важных жизненных решениях, что вызывает у него тревогу, несмотря на потенциальные преимущества.

Ранее сообщалось, что ИИ спрогнозировал будущее Украины.