Нейросеть помогает — врач решает

депутат ГосдумыБадма Башанкаев

Искусственный интеллект способен облегчить работу врачей, ускорить анализ медицинских данных и помочь в принятии клинических решений. Но в медицине любая ошибка может стоить слишком дорого, поэтому внедрение нейросетей требует не только развития технологий, но и чётких правил их проверки и применения. Где проходит граница доверия к алгоритмам, как распределять ответственность за их ошибки и что необходимо сделать, чтобы отечественный медицинский ИИ действительно повышал качество помощи пациентам? Об этом «Актуальные комментарии» поговорили с Бадмой Башанкаевым, депутатом Госдумы, первым заместителем председателя комитета ГД по охране здоровья.

В каких медицинских задачах ИИ уже приносит наибольшую пользу, а где цена ошибки остаётся слишком высокой? Какие решения можно доверять алгоритму без дополнительной проверки?

— Как практикующий хирург могу сказать: искусственный интеллект уже становится полезным помощником врача. Причём речь давно не только о распознавании снимков.
Мы привыкли обсуждать ИИ в лучевой диагностике, где алгоритм помогает рентгенологу находить подозрительные изменения, и в патоморфологии, где компьютерное зрение позволяет анализировать изображения тканей.

Сегодня стремительно развивается генеративный искусственный интеллект, возможности которого значительно шире.

Нейросети помогают врачам работать с клиническими рекомендациями, анализировать медицинскую литературу, обобщать информацию из истории болезни, готовить медицинские документы, находить сведения о лекарственных взаимодействиях и объяснять сложную информацию пациентам понятным языком.

Как хирург-онколог, вижу здесь большие возможности.

Представим подготовку к онкологическому консилиуму. Необходимо собрать результаты обследований, морфологическое заключение, данные о ранее проведённом лечении и сопоставить их с действующими клиническими рекомендациями.

ИИ способен помочь врачу систематизировать эту информацию. Не вместо врача, а вместе с ним. В результате у специалиста остаётся больше времени для главного — анализа состояния конкретного пациента и принятия клинических решений.

Вместе с тем у генеративного ИИ есть серьёзные ограничения.

Нейросеть способна очень убедительно ошибаться: придумывать несуществующие научные публикации, неверно интерпретировать исследования, предлагать неподходящие препараты. При этом она может формулировать ответ настолько уверенно, что неподготовленный человек не заметит ошибки.

В медицине цена таких ошибок особенно высока. Одно дело — неверно составленное расписание. Совсем другое — неправильная оценка симптомов инфаркта, пропущенное противопоказание к лекарству или неподходящая схема лечения онкологического пациента.

В генеративном ИИ без дополнительной клинической проверки можно автоматизировать прежде всего организационные и технические задачи с минимальными рисками. Для специализированных медицинских систем порядок контроля должен определяться их назначением, результатами испытаний и условиями применения. Во всех случаях необходима защита медицинских данных.
Диагноз, выбор лечения и решение об операции должны оставаться за медицинским специалистом.

Отдельно подчеркну: нельзя ставить знак равенства между специализированной медицинской системой, прошедшей необходимые испытания, и общедоступной генеративной нейросетью. Это разные инструменты, и уровень доверия к ним должен определяться назначением, результатами испытаний и рисками применения.

ИИ может быть очень умным помощником, но даже самый умный помощник не становится врачом. Президент России Владимир Путин отметил: «Искусственный интеллект не заменит медицинского работника или учителя. Однако он может служить их верным, эффективным помощником».

Кто должен отвечать за последствия ошибочной рекомендации нейросети — врач, медицинская организация или разработчик?

— Здесь необходимо разделять действующее законодательство и возможные изменения в будущем.

Сегодня искусственный интеллект не является самостоятельным субъектом права и не несёт юридической ответственности за неправильный диагноз или ошибочную рекомендацию. С точки зрения закона это инструмент — сложный, способный самостоятельно формировать ответы и анализировать информацию, но всё-таки инструмент.

Федеральный закон № 323-ФЗ «Об основах охраны здоровья граждан в Российской Федерации» устанавливает ответственность медицинских работников и медицинских организаций за нарушения при оказании медицинской помощи.

Если врач использовал ошибочную рекомендацию нейросети при принятии медицинского решения, сам факт применения ИИ не освобождает его от предусмотренной законом ответственности. При этом необходимо устанавливать обстоятельства произошедшего и учитывать действия всех участников оказания медицинской помощи. Медицинская организация также несёт предусмотренную законом ответственность за качество и безопасность медицинской помощи.

Вместе с тем законодательство предусматривает возможность ответственности производителя за дефекты продукции. Ошибочный ответ нейросети сам по себе ещё не доказывает вину разработчика: для этого необходимо установить обстоятельства произошедшего и основания ответственности.

В России принят Федеральный закон № 243-ФЗ о поддержке развития технологий искусственного интеллекта. Он важен для развития отечественных технологий, национальных и суверенных больших фундаментальных моделей. В нём закреплены общие принципы регулирования, включая риск-ориентированный подход.

Специальных правил распределения ответственности за ошибки нейросетей при оказании медицинской помощи этот закон не устанавливает. Его основная задача заключается в другом.

В медицинской практике возможны ситуации, требующие отдельного правового подхода. Например, врач использует систему ИИ, которая прошла необходимые проверки и допущена к медицинскому применению, действует по инструкции, но получает ошибочную рекомендацию. При этом проверить всю внутреннюю логику работы алгоритма самостоятельно он не может.

В таких случаях необходимо учитывать не только действия медицинского работника, но и характеристики самой технологии, результаты её испытаний, назначение системы и соблюдение условий эксплуатации.

До обсуждения новых механизмов распределения ответственности важно сформировать чёткие требования к самим технологиям. Их точность, частота ошибок, область применения, результаты испытаний и контроль качества после обновлений должны быть понятны медицинским специалистам.

Врач должен понимать, с каким инструментом работает и насколько ему можно доверять. Пациент должен быть защищён независимо от того, использовал врач искусственный интеллект или нет.
ИИ не может служить оправданием врачебной ошибки. Но и врач не должен становиться единственным ответственным за доказанные недостатки технологии, которую ему предлагают использовать.

  Как внедрять ИИ в клиниках, чтобы он действительно снижал нагрузку на медиков, а не создавал дополнительные риски? Нужны ли единые требования к проверке медицинских нейросетей и подготовке врачей?

— Считаю, что именно здесь сегодня находится главный вопрос развития медицинского искусственного интеллекта.

В России принят закон о поддержке развития ИИ. Большое внимание уделяется созданию национальных и суверенных моделей, развитию собственных технологий, защищённой инфраструктуры и обеспечению технологической независимости страны.

Это важная и необходимая работа для здравоохранения, где речь идёт о медицинской тайне, персональных данных и чувствительной информации о пациентах. Но медицина предъявляет к технологиям особые требования, и развитие отечественных моделей должно сопровождаться их совершенствованием для решения конкретных клинических задач.

Объясню на примере из своей профессии.

Хирург получает хорошее образование, проходит ординатуру, осваивает современные технологии. Но профессиональная подготовка на этом не заканчивается. Для самостоятельного выполнения сложных операций необходимы практический опыт, подтверждение профессиональных компетенций, постоянное обучение и оценка результатов работы.

Мы сравниваем результаты хирургического лечения с лучшими достижениями отечественной и мировой медицины. Наша задача — не просто соответствовать установленным требованиям, а постоянно повышать качество помощи пациентам.

С искусственным интеллектом похожая история. Создание современной отечественной модели — серьёзное технологическое достижение, а её применение в медицине требует специализированной подготовки, испытаний и оценки на конкретных клинических задачах.

Я бы ставил задачу ещё шире: нам нужно не просто адаптировать отечественные модели для здравоохранения, а сделать их лучше доступных зарубежных аналогов.

Точнее в работе с российскими клиническими рекомендациями. Надёжнее при анализе лекарственных назначений. Удобнее для врача. Безопаснее для пациента.

У нас есть возможности для развития собственных решений с учётом особенностей российской системы здравоохранения. Для этого необходимы объективные критерии сравнения и независимые испытания, позволяющие определить сильные стороны моделей и направления их дальнейшего совершенствования.

В России уже существуют стандарты систем искусственного интеллекта в здравоохранении, действуют правила регистрации соответствующих медицинских изделий, разработаны требования и методики испытаний отдельных типов алгоритмов. Мы не начинаем с нуля.

Но технологии развиваются быстро. Особенно генеративный ИИ, который работает не только с изображениями, но и с текстами, медицинскими документами, научными публикациями и клиническими рекомендациями.

Одна и та же модель может помогать составлять выписку, анализировать историю болезни или предлагать диагностические гипотезы. Это разные задачи, предполагающие разные уровни риска и, соответственно, разные требования к проверке.

Нам необходимо определить, какие действующие стандарты применимы к таким системам, чего в них не хватает и какие дополнительные требования следует разработать.

В частности, нужны объективные методы оценки точности ответов генеративных моделей на клинические вопросы и их соответствия российским клиническим рекомендациям. Важно оценивать частоту ошибок при указании дозировок, выявлении противопоказаний и работе с научными публикациями, в том числе способность модели распознавать недостаточность информации для обоснованного ответа.

Отдельное значение имеет контроль качества после обновления модели. Необходимы прозрачные критерии оценки и понятные процедуры независимых испытаний.

Считаю, что здесь необходима совместная работа федеральных органов исполнительной власти, законодателей, профессионального медицинского сообщества, научных организаций и разработчиков.
Врачебное сообщество должно участвовать в разработке критериев испытаний с самого начала. Наряду со специалистами по информационным технологиям к этой работе необходимо привлекать хирургов, терапевтов, онкологов, педиатров, клинических фармакологов и диагностов. Медицинский алгоритм нужно проверять на реальных задачах клинической практики.

Не менее важна подготовка врачей.

Недостаточно просто научить медицинского работника пользоваться нейросетью. Необходимо объяснять, как проверять её ответы, распознавать ошибки, оценивать источники информации и соблюдать требования безопасности персональных данных.

При этом нельзя превращать врача в оператора, который механически подтверждает рекомендации компьютера.

Подготовка медицинских работников к практическому применению искусственного интеллекта — одно из направлений, которым мы занимаемся в рамках Народной программы «Единой России». Причём речь должна идти не просто об обучении работе с нейросетями, а об их безопасном и полезном применении в ежедневной медицинской практике.

У меня есть простой критерий эффективности цифровизацииздравоохранения: сколько времени она освободила врачу для пациента и стала ли медицинская помощь качественнее и безопаснее.
Если врач сначала заполняет бумажный документ, потом электронный, а затем ещё исправляет ошибки нейросети, это не снижение нагрузки, а дополнительная работа.

Мы уже занимаемся проблемой избыточной медицинской документации. Искусственный интеллект должен помогать её решать, а не создавать новую бюрократию.

Эффективность внедрения ИИ необходимо оценивать по конкретным результатам: сколько времени удалось сэкономить, стало ли меньше диагностических ошибок, быстрее ли пациенты получают необходимую помощь, не выросло ли количество ненужных обследований.

В рамках работы Комитета Государственной Думы по охране здоровья считаю важным обсудить с Минздравом, Росздравнадзором, Росстандартом, Минцифры и профессиональными медицинскими организациями, насколько действующие стандарты отвечают новым возможностям генеративного ИИ.

Особенно важно изучать и использовать уже накопленный российский опыт. Хороший пример — московское здравоохранение, где искусственный интеллект применяется не только в диагностике, но и в организации медицинской помощи. Московские технологии помогают врачам и в других регионах России. Благодарен Сергею Семёновичу Собянину и его команде за развитие этих решений и готовность делиться опытом. Нам важно изучать, как они работают в реальной клинической практике, чтобы лучшие решения становились доступными пациентам по всей стране.

По итогам такой работы необходимо определить, где достаточно существующих правил, где нужны дополнительные отраслевые стандарты, а где потребуется изменение нормативных правовых актов.
При этом не нужно создавать избыточные барьеры для полезных технологий. Требования должны соответствовать рискам применения: помощь в составлении расписания приёма и рекомендации по изменению лечения пациента не могут оцениваться по одним и тем же критериям.

Медицина — это не только обработка информации. Это клиническое мышление, опыт, умение услышать человека и заметить то, что не укладывается в стандартную схему.

Нейросеть может обработать миллионы исследований. Но перед врачом всегда находится конкретный пациент, который доверяет ему своё здоровье.

Поэтому моя позиция проста: искусственный интеллект должен забирать у врача рутину, а не ответственность. И возвращать ему самое дорогое — время для пациента.

Наша общая задача — развивать отечественный медицинский ИИ, который будет соответствовать самым высоким требованиям безопасности, превосходить доступные зарубежные аналоги и действительно помогать врачам лучше лечить людей.

Бадма Башанкаев, депутат Госдумы, первый заместитель председателя комитета ГД по охране здоровья.

#БадмаБашанкаев