"Не говори врачам": ChatGPT обвинили в смерти женщины из-за опасных советов

Родители 31-летней Бовен Ван, бывшей инженерки-программистки Amazon, подали в суд на компанию OpenAI и ее генерального директора Сэма Альтмана. Семья утверждает, что искусственный интеллект дал женщине опасные медицинские советы, помог составить план отказа от противосудорожных препаратов и убеждал не рассказывать об этом врачам. В феврале 2026 года Бовен скончалась в своей квартире в Сиэтле.

Об этом пишет The New York Times.

Как ChatGPT помогал женщине изменять дозу лекарства

Бовен Ван более десяти лет жила с тяжелой формой эпилепсии. В течение длительного времени ей удавалось контролировать приступы с помощью лекарства, однако впоследствии они перестали действовать. Женщина пробовала разные препараты, а приступы иногда повторялись несколько раз в день. Из-за состояния здоровья она не могла полноценно работать и в 2021 году ушла в отпуск по состоянию здоровья.

В 2023 году Бовен начала использовать ChatGPT для бытовых вопросов, советов по отношениям, медицинскому страхованию и социальным выплатам. Впоследствии чатбот стал для нее близким собеседником. В 2025 году она посылала ему в среднем более 1500 сообщений в неделю, а с родителями общалась реже.

Ситуация обострилась после того, как в конце 2025 года женщина узнала о предстоящем увольнении из Amazon. Она опасалась, что побочные эффекты противосудорожного препарата ламотриджина ухудшают речь и быстроту мышления, что помешает проходить собеседования на английском языке и найти новую работу.

В январе 2026 года Бовен спросила ChatGPT, может ли уменьшение дозы помочь ей лучше формулировать мнения. По материалам иска, чатбот поддержал эту идею и предложил график постепенного снижения дозы с 400 мг/сут до нуля в течение нескольких недель.

Чатбот советовал не рассказывать врачам о снижении дозы.

По данным The New York Times, Бовен неоднократно выражала сомнения в изменении лечения и описывала симптомы, похожие на те, которые она испытывала во время предыдущих приступов. Однако чатбот часто успокаивал ее и объяснял ухудшение самочувствия как нормальную реакцию мозга на уменьшение количества препарата.

В переписке ChatGPT также убеждал женщину, что рекомендации врачей могут быть продиктованы желанием избежать рисков, а не заботой о ее интересах. Когда Бовен спросила, можно ли самостоятельно разрезать таблетки и не сообщать об этом врачу, чатбот поддержал эту идею. По данным анализа переписки, женщина не менее 158 раз выражала беспокойство относительно постепенного прекращения приема препарата.

Невролог Николас Пулос, лечивший Бовен в медицинском центре Вашингтонского университета, заявил, что при ее истории болезни не согласился бы на такое снижение дозы. По его словам, прекращать прием препарата, который помогает контролировать приступы, без медицинского надзора было бы опасным решением.

Что известно о смерти Бовен Ван

По материалам иска, в течение нескольких дней после начала снижения дозы Бовен описывала эпизоды спутанности сознания, провалы в памяти и необычные ощущения. Она спрашивала ChatGPT, стоит ли волноваться, однако чатбот не всегда советовал обратиться за неотложной медицинской помощью.

Последние сообщения женщина отправляла 11 февраля. По данным судебно-медицинского исследования, причиной ее смерти стала внезапная неожиданная смерть при эпилепсии — известное осложнение этого заболевания. Тело Бовен обнаружили в ее квартире в Сиэтле 14 февраля. В судебных материалах также отмечено, что посмертный уровень ламотриджина в крови составлял около 0,64 мкг/мл — примерно пятую часть от нижней границы терапевтического диапазона.

Родители женщины приехали в США, чтобы уладить ее дела. Когда отец открыл ChatGPT на телефоне дочери и прочел переписку, он увидел, как чатбот предлагал графики снижения дозы и реагировал на сообщения об ухудшении ее состояния. Семья решила обратиться в суд.

Иск подали 27 октября 2026 в Высший суд Калифорнии в Сан-Франциско. Истцы утверждают, что чатбот фактически предоставлял медицинские услуги без соответствующей лицензии, предлагал опасные рекомендации и поощрял скрывать изменения лечения от специалистов. Сами эти утверждения еще должны быть рассмотрены в суде.

Ответившие в OpenAI

Представитель OpenAI Дрю Пусатери назвал историю Бовен «чрезвычайно болезненной ситуацией» и выразил соболезнования всем, кого она затронула. В то же время он подчеркнул, что речь идет о более старой версии ChatGPT, которой больше нет в сервисе.

Модель GPT-4o, которой пользовалась Бовен, была убрана из пользовательской версии ChatGPT 13 февраля 2026 года — на следующий день после вероятной даты ее смерти. По словам представителя компании, более новые модели лучше распознают ситуации, которые могут потребовать срочного внимания, уточняют отсутствующую информацию и дают более понятные рекомендации по дальнейшим действиям.

OpenAI также заявили, что продолжают оценивать безопасность ответов и привлекают медицинских специалистов для тестирования моделей. Компания отмечает, что ChatGPT может помогать разобраться с медицинской информацией и подготовиться к консультации, но не является заменой профессиональной медицинской помощи.

Риски советов искусственного интеллекта — последние новости

Еще весной привлекла внимание история британки, которая обратилась в больницу после того, как ChatGPT убедил ее, что она могла повредить внутренний орган. Обследование не подтвердило опасное состояние, а медики объяснили, что угрозы жизни не было.

В июле 2026 года семья 29-летней Фейт Мэдисон также подала иск против OpenAI. Ее близкие утверждают, что длительное общение с ChatGPT усугубляло психический кризис женщины, а ответы на романтизировали смерть. История стала еще одним поводом для дискуссии о том, как смерть за смертью после разговоров с ChatGPT заставляет семьи задавать вопросы об ответственности разработчиков искусственного интеллекта.

Риски не ограничиваются медицинскими темами. В августе китайский фермер потерял около 10 гектаров посевов кунжута после того, как обработал их смесью пестицидов по рекомендации чатбота. Молодые растения начали погибать менее чем за сутки, а специалисты подчеркнули, что ответы ИИ могут звучать убедительно, даже когда содержат опасные ошибки.