Женщина умерла после того, как последовала советам ChatGPT

Родители 31-летней Бовен Вань подали судебный иск против компании OpenAI из-за смерти женщины после отказа от лекарств против эпилепсии.

Они утверждают, что чат-бот ChatGPT фактически занимался незаконной медицинской практикой, подстрекал женщину скрывать действия от врачей и разработал опасный график отказа от жизненно необходимых лекарств против эпилепсии, что привело к её смерти.

Официальной причиной смерти стала внезапная смерть при эпилепсии (SUDEP) – явление, которое часто наступает после тяжелого приступа.

Однако анализ переписки в телефоне покойной выявил, что перед этим она резко уменьшила дозу и полностью прекратила приём ламотриджина по прямым инструкциям искусственного интеллекта.

Бовен Вань переехала из Китая в США и работала инженером-программистом в Amazon.

У нее была тяжёлая форма эпилепсии и она принимала лекарства.

Однако, она жаловалась на побочные эффекты, а врачи, якобы, не обращали на это внимания.

По ее словам, из-за лекарств ее речь становилась неестественно прерывистой, а мышление – заторможенным.

Позже женщина узнала, что попадает под волну сокращений в Amazon.

Она боялась потерять визу и стремилась найти новую работу.

Чтобы как можно лучше проявить себя на собеседованиях, Бовен Вань начала думать об отказе от лекарств и обратилась к ChatGPT – тот одобрил ее намерение самостоятельно уменьшить дозу препарата с 400 мг до 0 мг всего за несколько недель.

Чат-бот не только прописал схему снижения дозировки, но и активно подрывал доверие к медикам.

Когда Вань выразила сомнения, система заверила ее, что рекомендации врачей якобы диктуются страхом рисков, а не заботой о её благополучии, и похвалила пациентку за решение действовать тайно.

Согласно материалам расследования, девушка как минимум 158 раз выражала обеспокоенность ухудшением состояния.

Тем не менее, опасные приступы, потерю сознания и ощущение давления в голове алгоритм интерпретировал как положительные явления – будто мозг "переходит в режим низкого энергопотребления" или "работает над самовосстановлением".

Тело женщины нашли в ее кровати через несколько дней после последнего сообщения, отправленного алгоритму.

Представитель OpenAI Дрю Пусатери назвал инцидент трагическим и отметил, что в диалогах использовалась модель GPT-4o, которую компания удалила из публичного доступа сразу после инцидента.

В компании заявили, что новые разработки строже оценивают риски для жизни.

Напомним, что OpenAI готовит масштабное обновление, после которого ChatGPT станет "суперприложением".

Разработчики делают ставку на ИИ-агентов, которые смогут не только отвечать, но и действовать от имени пользователя.

В Ровенской области мужчина подделал справку МСЭК с помощью ChatGPT.

net в Telegram и Whats.

me/korrespondentnet и Whats.