"ПНСТ 885-2023 (ISO/TR 24291:2021). Предварительный национальный стандарт Российской Федерации. Информатизация здоровья. Использование технологий машинного обучения для обработки изображений и других медицинских целей"
(утв. и введен в действие Приказом Росстандарта от 06.12.2023 N 82-пнст)

1 ПОДГОТОВЛЕН Федеральным государственным автономным образовательным учреждением высшего образования "Первый Московский государственный медицинский университет имени И.М. Сеченова Министерства здравоохранения Российской Федерации" (Сеченовский университет) совместно с Федеральным государственным бюджетным учреждением "Российский институт стандартизации" (ФГБУ "Институт стандартизации") на основе собственного перевода на русский язык англоязычной версии документа, указанного в пункте 4

2 ВНЕСЕН Техническим комитетом по стандартизации ТК 164 "Искусственный интеллект"

3 УТВЕРЖДЕН И ВВЕДЕН В ДЕЙСТВИЕ Приказом Федерального агентства по техническому регулированию и метрологии от 6 декабря 2023 г. N 82-пнст

4 Настоящий стандарт является модифицированным по отношению к международному документу ISO/TR 24291:2021 (E) "Информатизация здоровья. Использование технологий машинного обучения для обработки изображений и других медицинских целей" (ISO/TR 24291:2021 (E) "Health informatics - Applications of machine learning technologies in imaging and other medical applications", MOD), путем изменения отдельных фраз (ссылок, значений показателей), которые выделены в тексте курсивом, а также путем изменения его структуры для приведения в соответствие с правилами, установленными в ГОСТ 1.5-2021 (подразделы 4.2 и 4.3).

Сопоставление структуры настоящего стандарта со структурой указанного международного документа приведено в дополнительном приложении ДА

В связи с повсеместным развитием технологий искусственного интеллекта, в частности машинного обучения и глубокого обучения, предприняты попытки систематизации случаев их использования в клинической практике. Такая систематизация необходима для усовершенствования работы системы здравоохранения и результатов лечения пациентов, а также для определения классификации случаев использования искусственного интеллекта в медицине.

В настоящем стандарте представлена классификация случаев использования технологий машинного обучения при применении искусственного интеллекта в медицине, учитывающая свойства технологий искусственного интеллекта, включая машинное обучение и глубокое обучение, а также клинические условия, в которых прежде всего требуются неоднократное выявление и/или диагностика, мониторинг в реальном времени, прогнозирование лечения с использованием изображений и непрерывных сигналов и т.д. Применение настоящего стандарта способствует представлению состояния технологий машинного обучения искусственного интеллекта в медицине, рекомендаций по заполнению выявленных недочетов новыми приложениями компаниям, занимающимся информационными технологиями в здравоохранении. Настоящий стандарт может быть использован для дальнейшей разработки приложений или необходимых стандартов технологий машинного обучения искусственного интеллекта в медицине.

В настоящем стандарте описана классификация и приведены примеры случаев использования машинного обучения в медицине для клинической практики.

Разработка и применение технологий машинного обучения для искусственного интеллекта включают в себя: 1) сбор и курирование данных; 2) предварительную обработку; 3) обучение и валидацию моделей и 4) мероприятия по оказанию медицинской помощи, которые зависят как от разнообразных медицинских специальностей, включающих лучевую диагностику, патоморфологию, неотложную медицинскую помощь, дерматологию, офтальмологию, анестезию, хирургию и т.д., так и от клинических условий, включающих неоднократные выявление и/или диагностику, мониторинг в реальном времени и прогнозирование лечения.

Настоящий стандарт описывает категории медицинских применений, приведенных в перечислении в 4), а также клиническое применение и необходимость использования искусственного интеллекта в медицине.

Информация, приведенная в перечислениях 1) - 3), не является предметом настоящего стандарта.

Настоящий стандарт также не распространяется:

- на фундаментальные исследования и другие научные направления;

- случаи использования, связанные с другими методами искусственного интеллекта, отличными от машинного обучения (например, символический искусственный интеллект, экспертные системы), и

- результаты, не связанные с человеком, например в ветеринарии.

В настоящем стандарте использована нормативная ссылка на следующий стандарт:

Примечание - При пользовании настоящим стандартом целесообразно проверить действие ссылочных стандартов в информационной системе общего пользования - на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет или по ежегодному информационному указателю "Национальные стандарты", который опубликован по состоянию на 1 января текущего года, и по выпускам ежемесячного информационного указателя "Национальные стандарты" за текущий год. Если заменен ссылочный стандарт, на который дана недатированная ссылка, то рекомендуется использовать действующую версию этого стандарта с учетом всех внесенных в данную версию изменений. Если заменен ссылочный стандарт, на который дана датированная ссылка, то рекомендуется использовать версию этого стандарта с указанным выше годом утверждения (принятия). Если после утверждения настоящего стандарта в ссылочный стандарт, на который дана датированная ссылка, внесено изменение, затрагивающее положение, на которое дана ссылка, то это положение рекомендуется применять без учета данного изменения. Если ссылочный стандарт отменен без замены, то положение, в котором дана ссылка на него, рекомендуется применять в части, не затрагивающей эту ссылку.

В настоящем стандарте применены следующие термины с соответствующими определениями:

3.1 искусственный интеллект; ИИ (artificial intelligence; AI): Отрасль информатики, связанная с разработкой систем обработки данных, выполняющих функции, обычно ассоциируемые с человеческим интеллектом, такие как рассуждение, обучение и самосовершенствование.

Примечания

1 См. [1].

2 Комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в программное обеспечение, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений.

3 См. [2].

3.2

3.3

Примечание - Медицинская карта пациента, получающего медицинскую помощь в амбулаторных условиях, история развития ребенка, индивидуальная карта беременной и родильницы, медицинская карта стационарного больного, история родов, история развития новорожденного, ведение которых осуществляется с использованием информационных систем, предусматривает совокупность электронных медицинских документов в отношении конкретного пациента, формируемых медицинским(и) работником(ами) и подписываемых с использованием усиленной квалифицированной электронной подписи, а также сведений и информации о состоянии здоровья пациента по [3].

3.4

Примечание - Программное обеспечение, предназначенное для непосредственной помощи в принятии клинических решений, в котором характеристики отдельного пациента сопоставляются с компьютерной базой клинических знаний, после чего специфические для пациента оценки или рекомендации представляются врачу или пациенту, для помощи в процессе принятия научно обоснованных клинических решений по [4].

3.5

3.6

3.7

3.8

Примечание - См. [5].

3.9

Примечания

1 См. [6].

2 Глубокое обучение также известно как глубокое обучение нейронных сетей.

3 Часть более широкого семейства методов машинного обучения, основанных на искусственных нейронных сетях.

3.10

3.11

Примечание - Незапрограммированные компьютерные технологии, имеющие возможность автоматического обучения и развития на основе накопленного опыта по [6].

3.12

3.13

3.14

3.15

Примечание - Использование устройства прогнозирования для оценки значения выборки или декодируемого текущего элемента данных

3.16 робототехника (robotics): Методы, связанные с проектированием, строительством и использованием роботов.

Примечание - См. [1].

3.17

4.1.1 Общие положения

Технологии ИИ, используемые в медицине, кратко представлены в таблице 1.

4.1.2 Роботизация

В области роботизации ИИ может обеспечить высокое качество лечения за счет повышения точности и аккуратности хирургического процесса. Например, он может контролировать траекторию, глубину и скорость движений робота с высокой точностью и может работать там, где традиционные инструменты не могут. Он также может снизить нагрузку на хирургов во время операции, без труда выполняя однообразные движения.

4.1.3 Непрерывный мониторинг

С помощью ИИ может быть обеспечено надлежащее лечение в течение критического периода благодаря постоянному мониторингу состояния пациента и своевременному оповещению медицинского персонала. Модель ИИ с данными непрерывного мониторинга также может предупредить врачей до проявления приступа.

4.1.4 Машинное обучение

При использовании традиционных методов машинного обучения ИИ может быть применен для прогнозирования ответной реакции путем анализа данных, влияющих на результаты лечения.

4.1.5 Глубокое обучение

Использование глубокого обучения, способности к самообучению при обработке значительного количества биомедицинских изображений и аудиозаписей снижает неопределенность при принятии решений о лечении, включающих компьютерное обнаружение, КД, КДД и систему поддержки принятия клинических решений. С помощью глубокого обучения можно одновременно обрабатывать несколько различных типов клинических данных, например изображения, тексты и сигналы.

4.1.6 Обработка изображений

В области обработки изображений ИИ можно применять для обработки значительных объемов медицинских изображений и их использования для выявления заболеваний, постановки диагноза и т.д. Применение ИИ для обработки медицинских изображений уже доказало свою эффективность в клинических условиях.

4.1.7 Обработка естественного языка

В области ОЕЯ ИИ можно использовать для преобразования значительных описательных символьных последовательностей, например для интерпретации записей ЭМК, т.е. при извлечении информации из неструктурированных записей ЭМК.

4.1.8 Распознавание звука

В области распознавания звука ИИ может автоматически записывать важную информацию в ЭМК путем распознавания голоса и языка пациента.

4.1.9 Анализ больших данных (big data)

При анализе больших данных ИИ может быть использован для обработки внушительного объема данных медицинских карт пациентов, хранящихся в организациях здравоохранения, и предоставления индивидуальных рекомендаций пациентам и медицинским работникам.

4.1.10 Прогностическое моделирование

В прогностическом моделировании ИИ может быть использован для прогнозирования результатов, например рисков осложнений.

4.2.1 Общие положения

Применение ИИ в медицине можно разделить по медицинским специальностям (см. таблицу 2).

4.2.2 Лучевая диагностика и патоморфология

В лучевой диагностике и патоморфологии ИИ может быть применен для полностью автоматизированной количественной оценки, компьютерного обнаружения, диагностики и дифференциальной диагностики на основании изображений, полученных при лучевых или патоморфологических обследованиях, а также для голосового заполнения медицинской документации.

4.2.3 Дерматология

Одними из типичных случаев применения ИИ в дерматологии могут быть выявление и классификация новообразований кожи.

4.2.4 Офтальмология

В офтальмологии ИИ может быть использован для выявления и классификации глазных заболеваний на основании изображений сетчатки и оптической когерентной томографии.

4.2.5 Терапия

В терапии одними из существенных примеров применения могут быть прогнозирование осложнений и результатов, а также СППВР.

4.2.6 Кардиология

В кардиологии одними из примеров применения могут быть количественная оценка, компьютерное обнаружение, диагностика и дифференциальная диагностика на основании кардиологических изображений, прогнозирование осложнений и результатов, а также СППВР.

4.2.7 Неврология, урология, хирургия

В неврологии, урологии, хирургии ИИ может быть использован для прогнозирования осложнений и результатов, а также в СППВР.

4.2.8 Анестезиология, отделение интенсивной терапии

В анестезиологии и отделении интенсивной терапии одними из важных примеров применения могут быть система медицинской сортировки пациентов, система непрерывного мониторинга, а также система прогнозирования осложнений и результатов.

4.2.9 Неотложная помощь

В неотложной помощи одними из наиболее значимых приложений могут быть автоматизированная система медицинской сортировки пациентов, система непрерывного мониторинга, прогнозирование осложнений и результатов.

4.3.1 Общие положения

Примеры ИИ в медицине можно классифицировать по их использованию в медицинских целях, включая клинические испытания, медицинскую помощь, точную медицину на основе индивидуальных данных, медицинские изображения и диагностику, управление клиникой, роботизированную хирургию и разработку лекарственных средств (см. таблицу 3).

4.3.2 Клинические испытания

В клинических испытаниях одним из основных случаев использования технологии ИИ может быть автоматизированный подбор субъектов путем применения поиска на основе ИИ, что позволит найти нужное заболевание и подходящего пациента, сократит время подготовки к клиническим испытаниям и повысит их объективность.

4.3.3 Медицинская помощь

В сфере медицинской помощи существуют два варианта применения, а именно: медицинское обслуживание и профилактика с использованием технологии интернета вещей; голосовое заполнение медицинской документации. В случае медицинского обслуживания и профилактики с использованием технологии интернета вещей одним из наиболее значимых может стать совместное применение технологии интернета вещей, технологии распознавания голоса и технологии ИИ в целях эффективного планирования, диагностики и лечения, а также корректировки бизнес-информации и индивидуального наблюдения. В случае голосового заполнения медицинской документации технологии распознавания речи и формирования документов могут автоматизировать диагностику и запись данных, а также распознавать и анализировать медицинскую терминологию.

4.3.4 Точная медицина на основе индивидуальных данных

В сфере точной медицины на основе индивидуальных данных существуют три варианта применения ИИ: геном и наследственность; прогнозирование осложнений и комбинирование лекарственных средств; рекомендации по обследованию. В области генома и наследственности вариантами использования могут быть прогнозирование, диагностика и лечение на основе анализа больших данных и моделирования взаимосвязей, посредством информации о геноме, комплексной медицинской визуализации и данных клинической патологии в плане персонализированной медицины. При прогнозировании осложнений и комбинировании лекарственных средств ИИ способствует в принятии обоснованных решений, уведомляя врачей о связанных с конкретным случаем рисках или осложнениях при лечении и применении лекарственных средств. Рекомендаций по обследованию ИИ могут быть использованы для рекомендации дополнительных процедур диагностического обследования, использующих ИИ и большие данные, для уточнения диагноза и назначения лечения с целью повышения точности и снижения риска неправильного лечения.

4.3.5 Медицинские изображения и диагностика

В сфере диагностической обработки изображений существуют четыре варианта, включающие отбор вариантов нормы, поиск варианта на основе данных, формирование протоколов с данными и КД. При отборе вариантов нормы ИИ может заблаговременно проводить диагностику по медицинским изображениям за счет выявления истинно нормальных случаев. При поиске варианта на основе данных ИИ может помочь врачам поставить диагноз путем поиска и визуализации похожих случаев из многочисленных прецедентов в базе данных. При формировании протоколов с данными технологии анализа медицинских изображений и ОЕЯ, основанные на ИИ, могут автоматически формировать отчеты о лучевых исследованиях для помощи специалистам в расшифровке изображений. При использовании КД ИИ может быть использован для применения больших данных к диагностическим изображениям, анализу патогенеза, прогностическому прогнозированию.

4.3.6 Управление клиникой

ИИ может быть использован для повышения эффективности управления логистикой, операционными и палатами внутри отдельных больниц и групп больниц на основе технологии ИИ.

4.3.7 Роботизированная хирургия

В сфере роботизированной хирургии робот может использовать ИИ для планирования медицинской роботизированной хирургии, прогнозирования рисков и минимизации инвазивных областей.

4.3.8 Разработка лекарственных средств

В сфере разработки лекарственных препаратов технологии ИИ могут быть использованы для создания новых лекарственных средств, анализа сочетаний лекарственных средств и последовательности их приема, более эффективных при лечении заболеваний, а также для оптимизации подбора лекарств-кандидатов и клинических пациентов.

В этом разделе приведены типичные примеры использования ИИ в медицине.

Наименование примера использования - платформа ИИ для скрининга рака легких и предоставления отчетности.

Модель: локальный сервис.

Область применения: выявление и анализ узелковых образований в легких, а также формирование автоматического отчета о скрининге.

Цель(и): способствовать ранней диагностике рака легких с помощью ИИ.

Краткое описание: программное обеспечение достоверно обнаруживает и количественно оценивает узелковые образования в легких. Оно автоматически указывает размер, объем, тип узелка, расположение, кальцификацию и предположение. Для оказания помощи в лечении легочных узлов создается автоматический отчет, основанный на оценке категорий. Последующая регистрация и сопоставление узелков в программе повышают эффективность сравнения серий КТ-снимков. Для эффективного скрининга параметры работы могут быть изменены в диапазоне от обследования, ориентированного на чувствительность, для пациентов с высоким риском, до обследования, ориентированного на специфические особенности.

Заинтересованные стороны: органы здравоохранения, врачи лучевой диагностики, центры медицинского обследования.

Ключевые показатели эффективности (KPIs):

- чувствительность при заданном количестве ложноположительных обнаружений легочного узелка на одно КТ-сканирование;

- точность: чувствительность 88,2% при 1,0 FP/скан (FP - FalsePositiv, ложноположительный);

- скорость: от 15 до 30 с.

Недостатки: зависимость эффективности от характеристик КТ-снимков и протоколов обработки изображений.

Наименование примера использования - основанные на ИИ сервисы преобразования текста в речь с персональными голосами для людей с нарушениями речи.

Модель: локальные системы.

Область применения: все люди, имеющие те или иные нарушения речи, включающие три основных типа: нарушения артикуляции, нарушения плавности речи, дефекты голоса, но не ограничиваясь ими.

Цель(и): люди с нарушениями речи будут полностью интегрированы в социальные процессы без ограничений в общении.

Краткое описание: общение с другими людьми может быть затруднено для тех, кто имеет нарушения речи. Это существенно осложняет связь с окружающими бытовыми процессами и вовлеченность человека в жизнь общества. Персональное носимое устройство способно в оперативном режиме синтезировать голос по тексту или корректировать искаженную речь. Голос может быть полностью синтезирован с индивидуально подобранными настройками тона, тембра и стиля произношения.

Заинтересованные стороны: люди с нарушениями речи.

Ключевые показатели эффективности (KPIs):

- средняя оценка мнения: оценка заинтересованных сторон, использующих новые сервисы/оборудование;

- масштаб использования: процент заинтересованных лиц, использующих сервисы/оборудование, к общему числу заинтересованных лиц.

Наименование примера использования - платформа ИИ для анализа КТ-снимков грудной клетки.

Модель: облачные сервисы.

Область применения: выявление злокачественных новообразований (в легких) на КТ-снимках грудной клетки.

Цель(и): облегчить выявление онкологии на ранних стадиях по КТ-снимкам грудной клетки с помощью платформы, основанной на ИИ.

Краткое описание: программная платформа для диагностики и оценки рисков патологий с использованием технологий ИИ. Продукт предназначен для специалистов лучевой диагностики и онкологов. Он облегчает анализ и распознавание диагностических изображений КТ, цифровых рентгеновских снимков и маммографии. Проект направлен на снижение затрат и повышение точности диагностики при выявлении патологий на ранних стадиях.

Заинтересованные стороны: органы здравоохранения.

Ключевые показатели эффективности (KPIs):

- точность: 93% выявления злокачественных новообразований на КТ-снимках грудной клетки (AUC);

- скорость: от 4 до 10 мин.

Задачи: достижение более высокого подтвержденного уровня в выявлении онкологии легких и молочных желез, чем у аккредитованных радиологов.

Наименование примера использования - система обеспечения оптимизации и персонификации медикаментозной терапии.

Модель: локальная система.

Область применения: полный спектр комплексных решений для выбора оптимального типа препарата, его дозы и комбинации с другими препаратами.

Цель(и): система обеспечения оптимизации медикаментозной терапии пациента с учетом его индивидуальных физиологических особенностей, типа и тяжести заболевания.

Краткое описание: данные лабораторных и клинических обследований конкретного пациента отображены в единой интегрированной медицинской карте. В настоящее время имеется значительный объем данных о пациенте, доступных в электронном виде. На основе пула данных пациентов, получающих определенный препарат, проводят обучение системы рекомендаций с использованием ИИ, учитывающей их индивидуальные физиологические особенности, типы и тяжести заболеваний, а также комбинированный прием с другими препаратами.

При запросе рекомендаций для пациента после ввода информации о его текущем состоянии система выдаст индивидуальные рекомендации по оптимизации медикаментозной терапии. Кроме того, система в процессе лечения при получении актуальных данных дает рекомендации по коррекции терапии.

Заинтересованные стороны: государственная и частная системы здравоохранения, фармацевтические компании.

Ключевые показатели эффективности (KPIs):

- целесообразность применения ИИ: соотношение количества решений, предложенных ИИ в результате полученного логического вывода к эффективности лечения.

Наименование примера использования - СППВР.

Модель: облачные сервисы.

Область применения: скрининг для прогнозирования риска сердечно-сосудистых заболеваний с помощью методов машинного и глубокого обучения.

Цель(и): обеспечение правильного лечения пациента на основе более персонализированной прогностической оценки его здоровья, опирающейся на достижения в области точной медицины.

Краткое описание: сердечно-сосудистые заболевания продолжают оставаться наиболее актуальной проблемой здравоохранения в большинстве стран мира. По данным Всемирной организации здравоохранения, во всем мире более 17 млн человек ежегодно умирают от сердечно-сосудистых заболеваний, в том числе более 7 млн от ишемической болезни сердца. Модели машинного обучения превосходят традиционные подходы прогнозирования риска сердечно-сосудистых заболеваний (такие как шкалы риска SCORE, PROCAM и Фрамингема). Именно этот подход использован для создания СППВР путем применения как традиционных шкал риска, так и моделей, основанных на нейронных сетях. Немаловажным является тот факт, что система может автоматически рассчитывать риск сердечно-сосудистых заболеваний и немедленно пересчитывать его после добавления новой информации в ЭМК. Результаты передаются в личный кабинет пользователя.

Заинтересованные стороны: конечные пользователи (врач, медсестра, лаборант, фармацевт, пациент), отдел продаж и маркетинга. Подразделение разработки и обслуживания продукта СППВР (системный администратор, системный разработчик, системный архитектор, менеджер проекта и специалист по обслуживанию системы).

Системные угрозы и уязвимости:

- вред здоровью и ошибки: наиболее очевидная опасность заключается в том, что системы ИИ иногда могут ошибаться, что может привести к причинению пациентам вреда или возникновению других осложнений с их здоровьем;

- доступность данных: для обучения систем ИИ требуются большие объемы данных из таких источников, как ЭМК, аптечные записи, записи о страховых случаях или информация, полученная от потребителей, например фитнес-трекеры или история покупок. Однако получить данные о здоровье часто затруднительно, так как они, как правило, распределены по множеству различных систем;

- проблемы конфиденциальности: другой комплекс рисков возникает в связи с сохранением конфиденциальности. Потребность в больших наборах данных побуждает разработчиков собирать данные от многих пациентов. Некоторые пациенты могут быть обеспокоены тем, что такой сбор данных может нарушить их конфиденциальность, и на основании обмена данными между крупными системами здравоохранения и разработчиками ИИ уже были поданы судебные иски;

- предвзятость и неравенство: при использовании ИИ в здравоохранении существуют риски, связанные с предвзятостью и неравенством. Системы ИИ учатся на основе тех данных, на которых их обучают, и они могут инкорпорировать предвзятость этих данных. Например, если доступные для ИИ данные собираются в основном в федеральных медицинских центрах, созданные системы ИИ будут меньше знать и, следовательно, будут менее эффективно лечить пациентов из тех групп населения, которые обычно не посещают эти федеральные медицинские центры.

Ключевые показатели эффективности (KPIs):

- AUC ROC: площадь под кривой ошибок (ROC-кривой);

- TP, FP, TN, FN: матрица ошибок, метрики, которые могут быть использованы для измерения эффективности классификатора или предиктора. У одних из группы людей есть данное заболевание, и данный тест достоверно подтверждает положительный результат. Эти результаты называют истинно положительными (TP). У некоторых есть болезнь, но тест ошибочно утверждает, что болезнь отсутствует. Они называются ложноотрицательными (FN). Некоторые из группы не имеют заболевания, и тест утверждает, что не имеют - истинно отрицательные результаты (TN). Наконец, могут быть и здоровые люди, у которых положительный результат теста - ложноположительные результаты (FP). Все эти данные можно свести в таблицу случайностей 2 x 2 (матрицу ошибок), условно расположив по вертикальной оси результат теста, а по горизонтальной оси - фактическое состояние;

- правильность, точность и полнота: метрики оценки для машинного обучения.