Спустя почти год после того, как компания Microsoft создала команду для разработки специализированного «гуманистического суперинтеллекта», который будет сосредоточен на прорывах в области медицинской диагностики и научных исследований, стало известно, что система Microsoft AI Diagnostic Orchestrator (MAI-DxO) превзошла врачей в тестах по диагностике сложных заболеваний. В ходе исследования она правильно поставила диагноз в 83% сложных клинических случаев, а в типичных ситуациях в отделениях неотложной помощи её точность составила 80%. Разработчики утверждают, что система также помогает сократить расходы на обследование благодаря более рациональному выбору медицинских тестов.
Microsoft представила результаты исследования MAI-DxO в журнале Science. Система более чем вдвое превзошла врачей в диагностике сложных случаев, опубликованных в The New England Journal of Medicine (NEJM), если медики могли пользоваться справочными материалами, и почти в четыре раза — если работали без них. При этом затраты на постановку правильного диагноза были в два-три раза ниже.
Как работает система
В отличие от традиционных тестов для медицинских систем искусственного интеллекта, MAI-DxO оценивает не только правильность конечного диагноза, но и путь к нему. В реальной практике врачи постепенно собирают информацию о пациенте, решают, какие вопросы задать и какие обследования назначить, а затем корректируют свои предположения в зависимости от полученных результатов.
Для оценки такого подхода Microsoft разработала бенчмарк SDBench — инструмент для проверки последовательного диагностического мышления. Он охватывает две группы случаев: 304 сложных клинических истории из NEJM и типичные обращения в отделения неотложной помощи из базы данных MIMIC-IV-ED (Medical Information Mart for Intensive Care IV – Emergency Department).
В рамках тестирования системы начинают с ограниченной информации и самостоятельно определяют, какие данные им нужны для постановки диагноза. SDBench оценивает точность ответов, объем запрашиваемых доказательств и приблизительную стоимость обследований, учитывая как результат, так и способ его достижения.
MAI-DxO работает как группа виртуальных врачей, которые:
-
предлагают различные диагнозы;
-
выбирают вопросы и тесты;
-
проверяют предположения друг друга;
-
координируют несколько раундов обсуждения;
-
обновляют оценки после получения новых данных;
-
учитывают соотношение между ожидаемой пользой обследования и его стоимостью.
Точность системы
В сложных случаях из базы данных NEJM система MAI-DxO достигла точности 83%. Для сравнения: врачи правильно диагностировали заболевание в 22% случаев без использования внешних справочных материалов и в 36% — при возможности пользоваться ими.
В типичных случаях из базы MIMIC-IV-ED система показала точность 80%, тогда как результат врачей составил 47%. Таким образом, в этом наборе данных MAI-DxO диагностировала заболевание более чем в 1,7 раза точнее.
Разработчики также проверили, можно ли сохранить высокую точность, оптимизировав затраты. В одной из конфигураций система достигла результата 81% в сложных случаях NEJM, затрачивая менее половины средств по сравнению с системами, с которыми её сравнивали. По данным Microsoft, в двух наборах данных ни один другой проверенный подход — человеческий или основанный на искусственном интеллекте — не смог совместить более высокую точность с более низкими затратами.
Microsoft планирует открыть исходный код SDBench для выбранных клинических случаев из NEJM. Исследователям станут доступны сам бенчмарк, компоненты Gatekeeper и Judge, а также код для оценки стоимости, чтобы они могли воспроизвести эксперименты, проверить другие модели и расширить исследования.
Следующим этапом станет проверка технологии в реальных клинических условиях. Для этого Microsoft будет сотрудничать с медицинским центром Beth Israel Deaconess в Бостоне, где будут оценивать способность системы рассуждать в различных больничных ситуациях.
В то же время исследование, опубликованное в научном журнале BMJ Open, показало, что около половины ответов популярных ИИ-платформ, в частности ChatGPT, Gemini, Grok и DeepSeek, на медицинские вопросы являются сомнительными или вводящими в заблуждение, а почти 20% — крайне противоречивыми. Ученые предупредили, что чат-боты генерируют рекомендации, звучащие авторитетно, без клинического суждения или лицензий, создавая риски для сотен миллионов пользователей.
