ИИ меняет медицину

экспертМуслим Муслимов

ИИ в медицине уже перестаёт быть экспериментом. Теперь вопрос заключается не в многозадачности алгоритмов, а в выстраивании единой и безопасной системы здравоохранения. Московский опыт показывает, что технологические решения можно масштабировать: платформой «МосМедИИ» пользуются в 75 регионах. Впереди — создание требований к данным, валидации алгоритмов, мониторингу их работы и ответственности за результаты. Об этом «Актуальные комментарии» поговорили с Муслимом Муслимовым, председателем Национальной ассоциации управленцев сферы здравоохранения, членом ОП РФ.

— Сегодня медицинский ИИ переходит от отдельных пилотных проектов к инфраструктурному уровню. Алгоритмы уже используются для анализа медицинских изображений и других специализированных задач, а решения, созданные в Москве, постепенно распространяются за пределы столицы. По данным московских властей, платформой «МосМедИИ» пользуются более двух тысяч медицинских организаций в 75 регионах.

Однако масштабирование технологии само по себе не является показателем её эффективности. Один и тот же алгоритм может давать разный практический результат в зависимости от качества исходных данных, особенностей медицинской информационной системы, подготовки специалистов и того, насколько чётко определён порядок использования его результатов.

Поэтому главный вызов следующего этапа — перейти от внедрения отдельных алгоритмов к системе постоянного контроля их качества. Недостаточно один раз подтвердить точность модели перед запуском. Необходимо отслеживать, как она работает после внедрения, не меняется ли качество результатов при использовании новых данных, сохраняется ли точность для разных категорий исследований и не возникает ли систематических ошибок.

Особое значение имеют медицинские данные. Их объём постоянно растёт, но большой массив информации ещё не означает автоматически высокое качество аналитики. Данные могут быть неполными, неоднородными или содержать ошибки. Кроме того, модель, обученная на одной структуре данных, не обязательно будет одинаково эффективна в другой медицинской организации.

Поэтому развитие медицинского ИИ требует не только совершенствования самих алгоритмов, но и повышения качества цифрового контура здравоохранения. Важно понимать происхождение данных, контролировать их качество и иметь возможность выявлять ситуации, в которых система работает менее надёжно.

Отдельная задача — прозрачность. Медицинскому специалисту недостаточно получить от алгоритма результат без понимания его ограничений. В системе должна быть предусмотрена возможность оценить степень уверенности модели, увидеть потенциально проблемные случаи и определить, когда результат требует дополнительной проверки.

Это особенно важно потому, что ИИ не должен создавать иллюзию абсолютной точности. Даже высокоточный алгоритм будет ошибаться. Поэтому зрелость медицинской технологии определяется не отсутствием ошибок, а тем, насколько хорошо система умеет обнаруживать и контролировать ситуации, в которых вероятность ошибки повышается.

Не менее важна модель ответственности. При распространении ИИ на большое количество медицинских организаций необходимо заранее определить, кто отвечает за качество программного продукта, кто — за условия его внедрения, а кто — за профессиональное использование полученного результата. Без такой границы медицинская организация и специалист оказываются в ситуации неопределённости, что неизбежно снижает готовность использовать новые технологии.

При этом ответственность должна быть связана не только с моментом принятия решения, но и со всем жизненным циклом системы. Разработчик должен контролировать заявленные характеристики продукта и сообщать об известных ограничениях. Медицинская организация — обеспечивать корректное внедрение и соблюдение установленных регламентов. Профессиональное решение должно приниматься с учётом результатов работы системы, а не автоматически передаваться ей.

Именно поэтому для масштабирования ИИ особенно важны единые правила. Речь не обязательно должна идти об использовании одной платформы во всех регионах. Гораздо важнее сформировать единые требования к тому, как медицинские алгоритмы проверяются, внедряются и контролируются.

Московский опыт в этом смысле ценен прежде всего как практическая база для формирования таких подходов. Важно не просто тиражировать конкретные технологические решения, а определить, какие организационные механизмы позволяют безопасно переносить их в другие медицинские системы.

При расширении географии неизбежно будут различаться инфраструктура, цифровая зрелость организаций и качество данных. Поэтому единый федеральный подход должен задавать прежде всего стандарты качества и безопасности, оставляя регионам возможность адаптировать конкретные инструменты под собственные условия.

В конечном счёте медицинский ИИ должен стать частью системы управления качеством здравоохранения. Его зрелость будет определяться не числом внедрённых алгоритмов и не количеством подключённых организаций, а способностью системы постоянно измерять эффективность технологий, выявлять ограничения и своевременно корректировать их применение.

Следующий этап — это переход от логики «внедрить ИИ» к логике «управлять качеством ИИ». И именно здесь будет определяться, насколько устойчивым окажется масштабирование медицинских технологий в России.

Муслим Муслимов, председатель Национальной ассоциации управленцев сферы здравоохранения, член ОП РФ.

#МуслимМуслимов