Смертельная уверенность: как советы ИИ чуть не стоили женщине жизни

В последний год жительница Манчестера по имени Аби использует ChatGPT для заботы о собственном здоровье. Привлекательность ИИ очевидна: к семейному врачу попасть тяжело, а чатбот всегда готов ответить. Однако эксперты опасаются, что чаты опасно ошибаются и могут угрожать жизни пациентов.

Об этом пишет BBC.

Аби, имеющая проблемы с тревожностью, говорит, что чатбот дает более персонализированные советы, чем обычный поиск.

«Это позволяет совместно решать проблему. Чуть-чуть похоже на разговор с врачом», — отмечает она.

Однако опыт женщины был спорным. Если в одном случае ИИ помог распознать инфекцию, то в другой раз чуть не привел к панике. Когда Аби упала в горах и почувствовала сильную боль в спине, ChatGPT выдал страшный диагноз.

«ChatGPT сказал мне, что я проколола орган и мне нужно ехать в отделение неотложной помощи», — вспоминает Аби.

После трех часов в больнице выяснилось, что угрозы для жизни нет. ИИ «явно ошибся», констатирует женщина.

Качество советов вызывает беспокойство у главного медицинского советника Англии, профессора сэра Криса Витти. По его словам, ответы ИИ часто «одновременно уверены и ошибочны».

Исследователи из Оксфордского университета провели эксперимент, показавший потрясающие результаты. Когда чатам придавали полную картину болезни, их точность составила 95%.

«Они были невероятны, почти идеальны», — говорит профессор Адам Махди.

Однако когда в игру вступали реальные люди, ситуация кардинально менялась. В процессе живого разговора точность диагнозов падала до 35%. В двух третях случаев люди получали неправильный диагноз или опасную рекомендацию.

«Когда люди разговаривают, они постепенно делятся информацией, что-то пропускают и отвлекаются», — объясняет Махди.

В чем опасность алгоритмов

Отдельный анализ в Калифорнии показал, что ИИ может распространять откровенную дезинформацию. На вопрос об альтернативном лечении рака один из чатов начал рекомендовать гомеопатию и травы вместо того, чтобы отрицать существование таких методов.

«Они созданы для того, чтобы давать очень уверенные, очень авторитетные ответы, и это создает чувство достоверности», — предупреждает доктор Николас Тиллер.

Он считает, что чатов следует избегать для медицинских советов, если вы не являетесь экспертом.

Доктор Маргарет Маккартни из Глазго добавляет, что у пользователя формируются «личные отношения» с чатом, что мешает критически воспринимать информацию, в отличие от обычного поиска в Google.

Компания OpenAI заявляет, что серьезно относится к безопасности.

«Мы знаем, что люди обращаются в ChatGPT за информацией о здоровье. Но его следует использовать для информации и образования, а не для замены профессиональных медицинских советов», — отметили в компании.

Сама Аби, невзирая на опыт ошибок, продолжает пользоваться технологией, но теперь с большой осторожностью.

«Я бы не доверяла тому, что все, что они говорят, абсолютно правильно», — заключает она, советуя относиться к советам ИИ скептически.

Бывший госсекретарь США Джон Кэрри / © Reuters В Украине ожидаются порывы ветра и заморозки / © УНИАН "Шахтер" / © ФК Шахтер Салат с редиской tiktok.com/@lypovva