Содержание |
Основная статья: Искусственный интеллект (ИИ), Artificial intelligence (AI)
Искусственный интеллект в медицине
Основная статья: Искусственный интеллект в медицине
2023
Вступил в силу разработанный столичными врачами ГОСТ для сервисов искусственного интеллекта в клинической медицине
Вступил в силу разработанный с участием московских рентгенологов ГОСТ, необходимый для безопасного проектирования и технического обслуживания систем искусственного интеллекта в клинической медицине. Он устанавливает основу процессов жизненного цикла нейросетей. Это 11-й по счету отечественный стандарт. Его будут применять разработчики сервисов искусственного интеллекта, сотрудники лабораторий при технических испытаниях и специалисты медицинских организаций в клинических испытаниях. Об этом 20 сентября 2023 года сообщила Анастасия Ракова, исполняющий обязанности заместителя Мэра Москвы по вопросам социального развития.
![]() | Стремительное развитие технологий искусственного интеллекта, которое идет в московском здравоохранении, поставило вопрос о необходимости принятия норм, регламентирующих его использование. Этому вопросу уделяется особое внимание: столичные специалисты работают над стандартами уже третий год. Документ определяет требования для каждого процесса жизненного цикла систем искусственного интеллекта. Использование стандартов обеспечит внедрение только проверенных, надежных решений в практическую медицину, поможет в разработке новых нейросетей и тестировании существующих, — рассказала Анастасия Ракова. | ![]() |
Данный стандарт дополняет существующий ГОСТ IEC 62304-2022. Авторы добавили в набор процессов жизненного цикла программного обеспечения медицинских изделий необходимость проведения мониторинга системы искусственного интеллекта на всех этапах, связанных с эксплуатацией.Сергей Петренко, МТС RED: ИБ-игроки строят экосистемы, чтобы обеспечить заказчика интегрированными средствами защиты
Для разработки единых понятий и норм столица объединила несколько десятков специалистов: разработчиков программного обеспечения, медиков, профессоров, научных сотрудников. Среди авторов стандарта есть специалисты Центра диагностики и телемедицины столичного Департамента здравоохранения.
![]() | На базе Центра диагностики и телемедицины ДЗМ осуществляется научный Эксперимент по внедрению компьютерного зрения в лучевую диагностику. Наработанный опыт и научные результаты эксперимента и дали возможность нашим специалистам начать работу над созданием национальных стандартов. Разработаны 11 ГОСТов, 10 из которых вступили в силу и функционируют с 1 января 2023 года, в данный момент еще 3 проекта стандарта прошли публичные обсуждения, – рассказал главный рентгенолог Москвы, директор Центра диагностики и телемедицины ДЗМ Юрий Васильев. | ![]() |
Инициатива создания национальных стандартов для внедрения систем искусственного интеллекта в клиническую медицину принадлежит профильному подкомитету технического комитета по стандартизации «Искусственный интеллект» Росстандарта, организованному на базе Центра диагностики и телемедицины Департамента здравоохранения Москвы.
В России вступили в силу еще два ГОСТа по тестированию ИИ в клинической медицине
1 января 2023 года в России в силу вступили стандарты (ГОСТ Р 59921.8-2022 и ГОСТ Р 59921.9-2022), устанавливающие общие требования к системам искусственного интеллекта в медицине и системам менеджмента качества. Об этом Zdrav.Expert 11 января 2023 года сообщили представители Центра диагностики и телемедицины ДЗМ (НПКЦ ДиТ ДЗМ). По их словам, принятые единые стандарты призваны помочь в разработке новых нейросетей и тестировании существующих, а также позволят внедрять в практическую медицину только лучшие практики.
Оба ГОСТа разработаны Центром диагностики и телемедицины Департамента здравоохранения Москвы. Инициатива создания национальных стандартов для внедрения систем искусственного интеллекта в клиническую медицину принадлежит профильному подкомитету 01 Технического комитета по стандартизации 164 «Искусственный интеллект» Росстандарта, организованному на базе НПКЦ ДиТ ДЗМ. Для разработки единых понятий и норм для всех участников процесса столица объединила несколько десятков специалистов – разработчиков программного обеспечения, медиков, профессоров, научных сотрудников.
Документы устанавливают общие положения комплекса национальных стандартов «Системы искусственного интеллекта в клинической медицине». Кроме этого, они определяют требования к методам испытаний систем искусственного интеллекта (СИИ) для анализа медицинских изображений.
Так, ГОСТ Р 59921.8-2022 («Системы искусственного интеллекта в клинической медицине. Часть 8. Руководящие указания по применению ГОСТ ISO 13485-2017») предложит организациям руководство по применению ГОСТ ISO 13485 к процессам, связанным с заказом, поставкой, разработкой, эксплуатацией СИИ.
В свою очередь, ГОСТ Р 59921.9-2022 («Системы искусственного интеллекта в клинической медицине. Алгоритмы анализа данных в клинической физиологии. Методы испытаний. Общие требования») распространяется на интеллектуальный анализ данных, полученных методами исследования в клинической физиологии, он определит организацию работ по стандартизации испытаний алгоритмов и СИИ, применяемых для обработки и анализа данных.
Прежде всего, ГОСТы РФ будут применяться разработчиками сервисов искусственного интеллекта, лабораториями при технических испытаниях и медицинскими организациями в клинических испытаниях.
![]() | «Мы наблюдаем колоссальный прорыв в сфере искусственного интеллекта в московской медицине. В прошлом году появились первые ГОСТы РФ для тестирования нейросетей в клинической медицине, теперь вступили в силу новые. Таким образом, приняты и применяются уже 10 ГОСТов РФ, которые разработали столичные рентгенологи, — заявила заместитель мэра Москвы по вопросам социального развития Анастасия Ракова. | ![]() |
По её словам, специалисты создают стандарты для систем искусственного интеллекта в здравоохранении, которых еще нет в мире, опираясь на свой уникальный опыт и научные разработки. Такие стандарты повышают доверие к современным технологиям и делают более прозрачными и понятными все процессы и на этапе разработки, и при регистрации, и при эксплуатации. В свою очередь, это помогает ускорить внедрение умных решений, а также получать более качественные и предсказуемые инструменты для заботы о здоровье пациентов, подчеркнула Анастасия Ракова.
По состоянию на январь 2023 года в столичной медицине внедрены более 40 сервисов искусственного интеллекта по 17 различным направлениям исследований. Врачи пользуются нейросетями для обработки флюорографии, маммографии, рентгенографии, компьютерной томографии и магнитно-резонансной томографии. Искусственный интеллект помогает находить на лучевых исследованиях признаки рака легкого, COVID-19, остеопороза позвоночника, аневризмы аорты, ишемической болезни сердца, инсульта, легочной гипертензии, гидроторакса, а также рака молочной железы, плоскостопия и других заболеваний.
2022
Московские рентгенологи разработали ГОСТ по тестированию ИИ в клинической медицине
Московские врачи – сотрудники Центра диагностики и телемедицины Депздрава – разработали стандарт, регулирующий проведение клинических испытаний систем искусственного интеллекта. Ранее такого документа для этих систем не существовало. Об этом 2 августа 2022 года Zdrav.Expert сообщили представители Центра диагностики и телемедицины (НПКЦ ДиТ ДЗМ). Подробнее здесь.
Россия первой в мире приняла стандарты ИИ для здравоохранения
В феврале 2022 года стало известно о том, что Россия первой в мире приняла стандарты в области искусственного интеллекта в здравоохранении. По словам директора Института цифровой медицины, зав. кафедрой информационных и интернет-технологий Первого МГМУ им. И.М. Сеченова Георгия Лебедева, первые пять стандартов вступят в силу в течение 2022 года, среди которых:
- «Интеллектуальные методы обработки медицинских данных. Основные положения»;
- «Системы ИИ в клинической медицине – программа, методика клинических испытаний»;
- «Стандарт управления изменениями в системах ИИ с непрерывным обучением».
Отмечается, что к 9 февраля 2022 года в России готовятся еще 58 стандартов по медицинским системам ИИ с непрерывным обучением и около 60, определяющих требования к взаимодействию медицинских устройств и приборов с электронными медкартами, а также взаимодействию с системой цифрового здравоохранения. Подготовкой документов занимаются два технических комитета по стандартизации, один из которых возглавляет Георгий Лебедев, другой – директор Научно-практического клинического центра диагностики и телемедицинских технологий Департамента здравоохранения Москвы Сергей Морозов.
При этом к февралю 2022 года международных стандартов в сфере искусственного интеллекта для здравоохранения не существует, приняты лишь рекомендации по их разработке: для подготовки документации создана международная группа специалистов с участием российских экспертов. Согласно решению Всемирной организации здравоохранения, полномочия по разработке возложены на один из технических комитетов этой организации.
К 1 апреля 2022 года Правительство РФ по поручению президента Владимира Путина должно будет подготовить доклад, посвященный совершенствование механизмов применения экспериментальных правовых режимов в сфере цифровых инноваций. В частности, кабмину поручено обратить особое внимание на необходимость определения ответственных за причинение вреда в результате использования решений на основе ИИ.[1]
2021: ИИ в медицине стандартизировали
20 октября 2021 года стало известно о том, что технический комитет по стандартизации опубликовал окончательные редакции трех проектов национальных стандартов для применения ИИ в медицине. Игроки рынка оценивают стандарты положительно и считают, что с ними можно работать.
Стандарты включают в себя несколько гостов. Первый стандарт - ГОСТ Р "Системы искусственного интеллекта. Системы искусственного интеллекта в клинической медицине. Часть 1. Клинические испытания". Он устанавливает общие требования к проведению клинических испытаний и оценки систем искусственного интеллекта (СИИ) для определения уровня безопасности и клинической значимости выходных данных СИИ, общие принципы применения показателей оценки точности СИИ.
Второй стандарт - ГОСТ Р "Системы искусственного интеллекта. Системы искусственного интеллекта в клинической медицине. Часть 4. Оценка и контроль эксплуатационных параметров". Стандарт устанавливает общие требования к оценке и контролю эксплуатационных параметров системы искусственного интеллекта при вводе в эксплуатацию и периодическом контроле, что позволит проводить однозначно интерпретируемую оценку характеристик и параметров СИИ.
Третий стандарт - ГОСТ Р "Системы искусственного интеллекта. Системы искусственного интеллекта в клинической медицине. Часть 5. Требования к структуре и порядку применения набора данных для обучения и тестирования алгоритмов". Стандарт устанавливает общие требования к структуре и порядку применения наборов данных, которые используются для обучения и тестирования систем искусственного интеллекта.
Директор по акселерации по направлению цифровая медицина кластера биомедицинских технологий Фонда "Сколково" Сергей Войнов считает, что Технический комитет по стандартизации №164 был сформирован из хорошей экспертной группы по разработке, доработке и адаптации тех стандартов, которые существовали в мире по применению искусственного интеллекта в медицине.
![]() | Финальная версия этих стандартов, которые были преобразованы в ГОСТ, отражает объективную реальность тех кейсов, которые мы видим на рынке искусственного интеллекта. Это хороший шаг к гармонизации стандартов применения искусственного интеллекта. И мы здесь занимаем хорошую экспертную позицию: часть нашей группы работает над разработкой стандартов ISO, то есть международных. Также была проведена работа по адаптации этих международных стандартов под реалии российского здравоохранения, - отметил Сергей Войнов. | ![]() |
Сергей Войнов считает, что стандарты достаточно здравые, с ними можно работать и на них можно ориентироваться.
![]() | Конечно, они будут нуждаться в актуализации, потому что технологии искусственного интеллекта - это новая область, и там постоянно появляются продукты, технологические решения, и, соответственно, это затрагивает все более широкий спектр медицинских процессов. В какой-то момент времени накопится достаточное количество технологических кейсов, когда нужно будет эти стандарты обновлять. Но на октябрь 2021 года, считаю, хорошо, что они вышли, и многим игрокам рынка будет удобно на них ориентироваться, - подчеркнул Сергей Войнов. | ![]() |
В соответствии с перспективным планом работы ТК 164, до 2027 г. должно быть разработано около 50 стандартов в области ИИ в здравоохранении, отмечает Александр Рожков.
![]() | Первичными стандартами для такой области, как ИИ, должны быть обзор терминов и классификация технологий. Другими словами, должна быть составлена онтологическая модель ИИ применительно к сфере здравоохранения. По сути, необходимо провести большую научно-исследовательскую работу по изучению существующих практик и перспективных направлений использования ИИ в здравоохранении, - сказал Александр Рожков. | ![]() |
![]() | За прошедшие полтора года на рынке появилось множество HealthTech и COVID-Tech стартапов, в решениях которых так или иначе используются технологии ИИ. Большое количество потенциальных направлений, а также уровень зрелости технологий ИИ можно выявить в рамках подробного рассмотрения "дорожной карты" "Хелснет" Национальной технологической инициативы и "дорожной карты" развития "сквозной" цифровой технологии "Нейротехнологии и искусственный интеллект, - отметил Александр Рожков. | ![]() |
Безусловно, при разработке стандартов необходимо учитывать множество организационно-технологических, этических и юридических аспектов, подчеркивает Александр Рожков.
![]() | В том числе необходимо учитывать стандарты, обозначенные в Концепции регулирования технологий ИИ и робототехники до 2024 г., - доступность дата-сетов и библиотек снимков для обучения нейросетей, самоуправляемые и самообучаемые диагностические модели, приоритет "второго" мнения, ответственность за ошибки в постановке диагнозов, управление рисками, методы оценки эффективности диагностики, встраивание подобных систем в единый цифровой контур здравоохранения, обеспечение кибербезопасности, импортозамещение, сертификация и патентование алгоритмов/систем/сервисов/платформ на основе ИИ, подготовка кадров для работы с системами и т.п., - отметил Александр Рожков, директор по продуктовым технологиям группы "Т1"[2]. | ![]() |
2020
Создание стандартов
24 августа 2020 года стало известно о разработке первого в России национального стандарта для искусственного интеллекта в здравоохранении. Проект ГОСТ Р, который будет регулировать проведение клинических испытаний медицинских ИИ-систем (СИИ), создали эксперты Центра диагностики и телемедицины Департамента здравоохранения Москвы совместно с подкомитетом «Искусственный интеллект в здравоохранении» (входит в Технический комитет №164 Росстандарта).
![]() | Настоящий стандарт устанавливает общие требования к проведению КИ и клинической оценки СИИ для определения уровня безопасности и клинической значимости выходных данных СИИ, общие принципы применения показателей оценки точности СИИ, — указано в документе, выдержку из которого приводит издание Vademec. | ![]() |
Как пояснил директор Центра диагностики и телемедицины и председателя подкомитета ПК01/ТК164 «Искусственный интеллект в здравоохранении» Сергей Морозов, ИИ-технологий направлены на оптимизацию работы диагностов, автоматизацию рутинной работы, информационную поддержку и внедрение других опций, которые помогают врачам. Практическое использование таких систем в медицине невозможно без единых нормативно-технических норм, добавил он.
В Минздраве отмечают, что, согласно национальной стратегии развития искусственного интеллекта на период до 2030 года создание условий, которые будут обеспечивать использование технологий искусственного интеллекта в области здравоохранения – одна из ключевых задач по улучшению уровня жизни населения. Вопросы доверия к медицинским интеллектуальным системам и связанные с применением систем ИИ в медицинской диагностике барьеры могут быть сняты за счёт стандартизации требований к методикам испытаний интеллектуальных систем, а также критериев соответствия данных систем требованиям безопасности.[3]
Планы по разработке первых редакций национальных стандартов в области ИИ
26 февраля 2020 года РВК сообщил Zdrav.Expert, что в 2020 году в России будут разработаны первые редакции национальных стандартов в области искусственного интеллекта в здравоохранении. Координировать разработку будет Технический комитет по стандартизации «Искусственный интеллект» (ТК 164), созданный на базе РВК.
В соответствии с перспективным планом работы Технического комитета до 2027 года планируется разработать около 50 стандартов в области искусственного интеллекта в здравоохранении по отдельным направлениям, включая общие требования и классификацию систем ИИ в клинической медицине, лучевую и функциональную диагностику, системы дистанционного мониторинга, гистологию, системы поддержки принятия врачебных решений, реконструкцию изображений в диагностике и лечении, большие данные в здравоохранении, медицинские системы аналитики и прогнозирования, образовательные программы в здравоохранении.
Редакции первых шести национальных стандартов будут подготовлены уже в 2020 году, среди них:
- Системы искусственного интеллекта в клинической медицине. Часть 1. Клинические испытания;
- Системы искусственного интеллекта в клинической медицине. Часть 2. Программа и методика технических испытаний;
- Системы искусственного интеллекта в клинической медицине. Часть 3. Применение менеджмента качества к дообучаемым программам. Протокол изменения алгоритма;
- Системы искусственного интеллекта в клинической медицине. Часть 4. Оценка и контроль эксплуатационных параметров дообучаемых алгоритмов;
- Системы искусственного интеллекта в клинической медицине. Часть 5. Требования к структуре и порядку применения набора данных для обучения и тестирования алгоритмов;
- Системы искусственного интеллекта в клинической медицине. Часть 6. Общие требования к эксплуатации.
![]() | Здравоохранение – одна из тех областей, стандартизация технологий искусственного интеллекта в которых наиболее актуальна. Объясняется это, во-первых, опасностью последствий от использования в клинической практике систем ИИ с негарантированным качеством, а во-вторых – высокой технологической зрелостью разработок в этой области. Только у нас в стране насчитывается несколько десятков компаний, предлагающих весьма продвинутые интеллектуальные системы обработки медицинской информации, и отсутствие адекватной нормативной базы является сдерживающим фактором, препятствующим эффективному внедрению этих систем, сообщил председатель Технического комитета «Искусственный интеллект» Сергей Гарбук
| ![]() |
В целях координации работ по унификации и стандартизации требований к системам ИИ в здравоохранении, а также установки сертификационных требований к медицинским изделиям, приказом Росстандарта в составе ТК 164 создан подкомитет «Искусственный интеллект в здравоохранении» (ПК01/ТК164). Подкомитет образован на базе Центра диагностики и телемедицины. Его возглавил главный внештатный специалист по инструментальной и лучевой диагностике Департамента здравоохранения Москвы и Минздрава России по ЦФО, директор Центра диагностики и телемедицины, доктор медицинских наук, профессор Сергей Морозов.
![]() | Национальные стандарты будут регулировать ключевые аспекты применения искусственного интеллекта в здравоохранении и его роли в принятии врачебных решений. Без единых нормативно-технических норм, одобренных профессиональным сообществом на условиях консенсуса, практическое внедрение искусственного интеллекта в сфере здравоохранения невозможно. Подчеркну, что основной акцент в нашей работе будет сделан на практическом здравоохранении. Фармацевтики мы касаться не будем, отметил Сергей Морозов
| ![]() |
Технический комитет «Искусственный интеллект» создан в 2019 году по инициативе РВК при поддержке Минпромторга РФ и Росстандарта. Работы по стандартизации в области ИИ в ключевых отраслях экономики будут проводиться ТК 164 в соответствии с Национальной стратегией развития искусственного интеллекта на период до 2030 года. Она предусматривает создание единых систем стандартизации и оценки соответствия технологических решений, разработанных на основе искусственного интеллекта, развитие международного сотрудничества по вопросам стандартизации и обеспечение возможности сертификации продукции, созданной на основе ИИ.
Сеченовский Университет присоединился к международной команде по разработке стандартов ИИ в медицине
Сеченовский Университет принимает активное участие в процессе цифровизации и информатизации здравоохранения. Очередным этапом в развитии данного направления стала работа в рамках рабочей группы по Искусственному интеллекту TC 215 ISO Health informatics Международной организации по стандартизации (ИСО). Об этом Сеченовский Университет сообщил 18 февраля 2020 года. Подробнее здесь.
Новые технологии в здравоохранении
- Здравоохранение в России
- Единая государственная информационная система в сфере здравоохранения (ЕГИСЗ)
- Единый цифровой контур в здравоохранении на основе ЕГИСЗ
- Обязательное медицинское страхование (ОМС)
- Национальный проект Здравоохранение
- ИТ в здравоохранении РФ
- HealthNet Национальная технологическая инициатива (НТИ)
- Приоритетный проект Электронное здравоохранение
- Обзор перспектив создания единого пространства электронного здравоохранения в России
- Единая цифровая система диагностики онкологических заболеваний
- Требования к ГИС в сфере здравоохранения субъектов РФ, МИС и информсистемам фармацевтических организаций
- Стандарты электронного здравоохранения (ГОСТ) в России
- TAdviser: полный каталог проектов в области автоматизации медицины, фармацевтики и здавоохранения
- Медицинская информационная система - Каталог систем и проектов
- Медицинские информационные системы (МИС) рынок России
- Медицинское программное обеспечение в России
- Электронные медицинские карты (ЭМК)
- Электронный больничный лист
- Электронный рецепт
- Информатизация аптечных сетей
- Информатизация поликлиник и больниц Москвы
- Лабораторные информационные системы - Каталог систем и проекто
- Лабораторные информационные системы (ЛИС, LIS)
- Лабораторная диагностика (рынок России)
- Как системы компьютерного зрения меняют логистику и медицину
- Системы передачи и архивации изображений (PACS)
- Системы передачи и архивации изображений - Каталог продуктов и проектов
- Системы поддержки принятия врачебных решений (СППР, CDS)
- Блокчейн в медицине
- Большие данные (Big Data) в медицине
- Виртуальная реальность в медицине
- Искусственный интеллект в медицине, Стандарты в области искусственного интеллекта в здравоохранении
- Интернет вещей в медицине
- Информационная безопасность в медицине
- Беспилотники в медицине
- Визуализация в медицине
- 5G в медицине
- Чат-боты в медицине
- Телемедицина
- Телемедицина: будущее здравоохранения
- Телемедицина (российский рынок)
- Телемедицинский сервис - Каталог продуктов и проектов
- Телемедицина (мировой рынок)
- Дистанционный мониторинг здоровья пациентов
- Преимущества видеоконференцсвязи для здравоохранения
- Мобильная медицина (m-Health)
- Смартфоны в медицине, Вред от мобильного телефона
- Фармацевтический рынок России
- Регистрация лекарств в России
- Регистрация медизделий в России
- Рынок медицинских изделий в России
- Ценовое регулирование медицинских изделий в России
- Медицинское оборудование (рынок России)
- Цифровое здравоохранение (консорциум)
- Национальная база генетической информации
- Геномика и биоинформатика (рынок Россия)
- Генетические банки данных (биобанки, биорепозитории, хранящие биологические образцы)
- Генетическая инженерия (генная инженерия)
- Биоинформатика (главные тренды)
- Биохакинг
- Генетика, Геном, Хромосома, Секвенирование ДНК, Метилирование ДНК
- Ядерная медицина
- Телерадиология
- Трансляционная медицина
- Тепловизор и медицина
- Экзоскелеты
- 3D-печать в медицине, 3D-печать в медицине (мировой рынок)
- Роботы в медицине, Роботы-хируги, Роботы-хирурги (мировой рынок)
- Искусственная кожа в медицине
- ИТ в здравоохранении (мировой рынок)
- Медтех (мировой рынок)
- Облачные сервисы в медицине (мировой рынок)
- ИТ-консалтинг в медицине (мировой рынок)
- Медицинское оборудование (мировой рынок)
- Нейрохирургическое оборудование (мировой рынок)
- Онкологические ИТ-системы (мировой рынок)
- ПО для анализа данных в медицине (мировой рынок)
- ПО для анализа медицинских изображений (мировой рынок)
- Приложения mHealth (мировой рынок)
- Регулирование рынка медицинского оборудования в Европе
- Системы радиотерапии (мировой рынок)
- Смарт-пластыри (мировой рынок)
- Медицинская носимая электроника (мировой рынок)
- Фармацевтический мировой рынок