"ПНСТ 871-2023. Предварительный национальный стандарт Российской Федерации. Образовательные цифровые платформы (тренажеры) с использованием искусственного интеллекта для получения практических знаний в области клинических дисциплин. Основные положения"
(утв. и введен в действие Приказом Росстандарта от 20.11.2023 N 63-пнст)

1 РАЗРАБОТАН Государственным бюджетным учреждением здравоохранения города Москвы "Научно-практический клинический центр диагностики и телемедицинских технологий Департамента здравоохранения города Москвы" (ГБУЗ "НПКЦ ДиТ ДЗМ")

2 ВНЕСЕН Техническим комитетом по стандартизации ТК 164 "Искусственный интеллект"

3 УТВЕРЖДЕН И ВВЕДЕН В ДЕЙСТВИЕ Приказом Федерального агентства по техническому регулированию и метрологии от 20 ноября 2023 г. N 63-пнст

Технологии искусственного интеллекта активно развиваются и постепенно внедряются во все сферы жизни, в том числе в процесс обучения при подготовке медицинского персонала. Согласно существующим исследованиям, современные технологии могут позволить студентам и врачам получать практические навыки в клинических дисциплинах в условиях, не содержащих угрозу жизни и здоровью пациентов, и способны значительно повысить качество обучения.

Технологии искусственного интеллекта только начинают использоваться в медицинском образовании, поэтому необходимо своевременно учесть проблематику, сопряженную с их внедрением. В силу особой значимости медицины как области, где здоровье и жизнь пациентов могут подвергаться риску, применение искусственного интеллекта в процессе обучения медицинских работников требует высокой степени внимательности и контроля. Требования к таким системам включают: безопасность и эффективность, прозрачность и объяснимость, подотчетность, справедливость их работы и др.

Настоящий стандарт распространяется на образовательные цифровые платформы (тренажеры) (ОЦП) с использованием искусственного интеллекта (ИИ) для получения практических знаний в области клинических дисциплин.

Настоящий стандарт устанавливает основные положения об ОЦП с использованием ИИ, включая:

- общие цели и задачи;

- термины и определения;

- классификацию;

- общие требования;

- общие технические требования.

В настоящем стандарте использованы нормативные ссылки на следующие стандарты:

ГОСТ Р 59525 Информатизация здоровья. Интеллектуальные методы обработки медицинских данных. Основные положения

ГОСТ Р 59895 Технологии искусственного интеллекта в образовании. Общие положения и терминология

ГОСТ Р ИСО 14915-1 Эргономика мультимедийных пользовательских интерфейсов. Часть 1. Принципы проектирования и структура

Примечание - При пользовании настоящим стандартом целесообразно проверить действие ссылочных стандартов в информационной системе общего пользования на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет или по ежегодному информационному указателю "Национальные стандарты", который опубликован по состоянию на 1 января текущего года, и по выпускам ежемесячного информационного указателя "Национальные стандарты" за текущий год. Если заменен ссылочный стандарт, на который дана недатированная ссылка, то рекомендуется использовать действующую версию этого стандарта с учетом всех внесенных в данную версию изменений. Если заменен ссылочный стандарт, на который дана датированная ссылка, то рекомендуется использовать версию этого стандарта с указанным выше годом утверждения (принятия). Если после утверждения настоящего стандарта в ссылочный стандарт, на который дана датированная ссылка, внесено изменение, затрагивающее положение, на которое дана ссылка, то это положение рекомендуется применять без учета данного изменения. Если ссылочный стандарт отменен без замены, то положение, в котором дана ссылка на него, рекомендуется применять в части, не затрагивающей эту ссылку.

В настоящем стандарте применены термины по ГОСТ Р 59895, а также следующие термины с соответствующими определениями:

3.1 клинические дисциплины: Группа медицинских дисциплин, включающих изучение клинических методов диагностики, лечения и профилактики заболеваний.

3.2 виртуальный пациент: Программа, моделирующая медицинский случай и позволяющая студентам и медицинским специалистам обучаться и тренироваться в диагностике и лечении пациентов.

3.3

3.4

3.5 генеративный искусственный интеллект: Класс алгоритмов машинного обучения, используемых для создания новых данных, не существовавших ранее.

3.6 образовательная цифровая платформа с использованием искусственного интеллекта: Образовательный продукт (программно-техническая система) с алгоритмами искусственного интеллекта, являющийся(аяся) системой, объединяющей участников процесса обучения и обеспечивающей доступ к информации, симуляциям и другим обучающим материалам.

Примечание - ОЦП предоставляет возможность для удаленного образования и позволяет проводить контроль знаний и аналитику процесса обучения.

3.7

3.8

Основными целями применения ОЦП с использованием ИИ для получения практических знаний в области клинических дисциплин являются:

а) повышение качества образовательного процесса;

б) персонализация образовательного процесса;

в) повышение доступности получения практических знаний в области клинических дисциплин;

г) облегченная адаптация учебно-методических программ для обучения под изменения требований к программе обучения;

д) совершенствование навыков коммуникации медицинских работников.

Образовательные цифровые платформы с использованием ИИ для получения практических знаний в области клинических дисциплин предназначены для решения следующих задач:

а) демонстрация примеров и заданий в соответствии с программой обучения для проверки знаний, в том числе за счет внедрения технологий виртуальной реальности, симулирования;

б) сбор данных пользователя, в том числе для реализации индивидуальной траектории обучения, анализа выполнения практических навыков за счет технологий компьютерного зрения, распознавания текста или других технологий ИИ;

в) анализ и интерпретация информации, полученной от обучающегося;

г) оценка выполнения заданий, фиксирование времени и определение результата;

д) принятие решения о степени сложности следующего задания в случае реализации образовательной платформы с адаптивным обучением (см. ГОСТ Р 59895).

В обобщенном виде используемые в медицине технологии ИИ и классификация областей применения ИИ приведены в ГОСТ Р 59525, применение технологий ИИ в образовании представлено в ГОСТ Р 59895.

Образовательные цифровые платформы с использованием ИИ для получения практических знаний в области клинических дисциплин подразделяют:

а) согласно целевому объекту использования (см. [1]):

1) ОЦП для обучения и поддержки студентов,

2) ОЦП для поддержки педагогического работника,

3) ОЦП для методистов и организаторов учебного процесса (выполнение описательной, прогнозируемой и предписывающей аналитики);

б) согласно цели использования:

1) на симуляторы (общение с пациентами, практические навыки, использование оборудования и т.д.),

2) генеративные ИИ (чат-боты, генерирование медицинских снимков, текста и т.д.),

3) образовательные платформы для изучения теории с индивидуальной траекторией обучения при поддержке ИИ.

Образовательные цифровые платформы, использующие технологии симуляции с ИИ, могут быть применены (см. [2], [3]):

- для изучения анатомии. Такие ОЦП позволяют создавать реалистичные 3D-модели органов, тканей, костей и других структур организма, совмещать микро-, макроскопические изображения, изображения, полученные методами лучевой диагностики, а также моделировать патологические изменения, варианты и аномалии развития, результаты медицинских манипуляций. Это дает возможность проводить более тщательный виртуальный осмотр данных структур и способствует более глубокому изучению анатомии;

- обучения медико-социальным и коммуникативным навыкам для общения с пациентами. Это помогает студентам развивать навыки общения с пациентами до начала реальной медицинской практики;

- получения практических навыков при изучении клинических дисциплин с помощью симуляций широкого спектра медицинских процедур без риска для пациентов. Развивает практические навыки медицинских работников и др.;

- обучения правильному использованию медицинского оборудования с помощью симуляции процесса работы с этим оборудованием в безопасных условиях.

Виртуальный пациент может имитировать различные болезни и симптомы, а также позволяет проводить диагностические исследования, назначать лечение и оценивать его эффективность. Это дает возможность медицинским студентам и специалистам развивать свои навыки и принимать решения в условиях, максимально приближенных к реальным ситуациям, но при этом без риска для жизни и здоровья пациентов (см. [4]).

Виртуальный пациент способен также предоставлять возможность обучения взаимодействию с реальным пациентом, например посредством интерактивных диалоговых окон, голосовых и текстовых сообщений. Это позволяет учиться этичному и эффективному общению с пациентами, в том числе при непростых или деликатных вопросах.

Образовательные цифровые платформы, имеющие в составе модули генеративного ИИ, могут генерировать новые изображения, текст, аудио и другие формы данных на основе заданных входных данных или обучающего набора данных.

Такие ОЦП наделены множеством перспективных способов применения и в обучении, однако их потенциальное использование в медицинском образовании требует дальнейшего изучения (см. [5]).

Выделяют следующие возможности применения генеративного ИИ для обучения:

- синтетические медицинские данные (текстовые данные). Это решает задачу конфиденциальности пациентов и позволяет генерировать бесконечное количество вариаций;

- синтетические медицинские изображения. Каждое синтетическое изображение уникально и может создаваться через текстовый запрос;

- виртуальные помощники, ассистенты, чат-боты - языковые модели. Большие языковые модели могут использовать вместо поисковых систем для поиска информации и для формального обучения, в том числе для создания виртуальных пациентов.

7.1 Разработка ОЦП с использованием ИИ для получения практических знаний в области клинических и субклинических дисциплин должна быть основана на следующих требованиях (см. [1], [6]):

а) ОЦП с использованием ИИ, применяемые в сфере образования или профессиональной подготовки, в частности: для отбора абитуриентов в целях зачисления в учебные заведения, или для оценки работ во время обучения, или в качестве предварительного условия при приеме на обучение по образовательной программе, должны быть отнесены к системам высокого риска. При этом следует соблюдать права человека на образование и профессиональную подготовку;

б) ОЦП с использованием ИИ должны быть качественными, безопасными и эффективными системами;

в) в технической документации производителя ОЦП с использованием ИИ должны быть продемонстрированы:

1) потенциальная польза применения ОЦП с использованием ИИ при получении практических знаний, превышающая потенциальный риск при ошибках работы таких систем,

2) техническая надежность и безотказность их работы,

3) обеспечение кибербезопасности;

г) документация производителя ОЦП с использованием ИИ должна быть разработана с учетом необходимости обеспечения прозрачности и объяснимости работы ОЦП, в том числе того, как происходят формирование индивидуальной траектории обучения и оценка знаний студента. Необходимо обеспечить также доступность информации о том, как ОЦП с использованием ИИ разработаны, верифицированы и валидированы;

д) ОЦП с использованием ИИ должна быть разработана с учетом необходимости оценки работы ОЦП в процессе эксплуатации. Должна быть обеспечена возможность мониторинга отчетов о негативных воздействиях на процесс обучения и на качество получаемых практических знаний в области клинических дисциплин с целью оценки и минимизации этих негативных воздействий;

е) должна быть обеспечена конфиденциальность персональных данных обучающихся в процессе эксплуатации ОЦП с использованием ИИ;

ж) должна быть обеспечена объективность работы ОЦП с использованием ИИ, включая доступность, универсальность дизайна, непредвзятость оценки, и возможность применения ОЦП независимо от возраста, пола, способностей или других характеристик студентов, в том числе учащихся с ограниченными возможностями;

и) разработка и обновление ОЦП с использованием ИИ должны быть выполнены с учетом развития знаний в предметной области.

7.2 Эксплуатация ОЦП с использованием ИИ для получения практических знаний в области клинических и субклинических дисциплин должна быть основана на следующих требованиях:

а) ответственность за принятие решения в ходе эксплуатации ОЦП с использованием ИИ несет пользователь, в том числе педагогический работник, ответственный за процесс обучения студента. Пользователь должен обладать знаниями о принципах работы ОЦП и принятии решений;

б) в процессе эксплуатации ОЦП при симуляции и генерировании медицинских данных должны быть удовлетворены критерии репрезентативности данных для целевой популяции, необходимой для обеспечения качественного образовательного процесса;

в) в процессе эксплуатации ОЦП с использованием ИИ должны быть обеспечены доступность и прозрачность для студентов таким образом, что обучающиеся должны иметь доступ к своим данным о продвижении и возможность легко понимать и интерпретировать их.

Образовательные цифровые платформы с использованием ИИ должны удовлетворять следующим техническим требованиям:

а) архитектура системы: ОЦП должна быть спроектирована таким образом, чтобы обеспечивать надежность, масштабируемость и простоту обновления. Должны быть четко определены и документированы структура данных, архитектура ОЦП и интерфейсы для взаимодействия с другими системами;

б) безопасность данных: ОЦП должна соответствовать актуальным стандартам безопасности информации, обеспечивать шифрование данных, а также использовать механизмы аутентификации и авторизации для защиты доступа к данным и системам;

в) производительность и эффективность: ОЦП должна обеспечивать быстрый и стабильный доступ к обучающим материалам и инструментам, в зависимости от установленного назначением ОЦП количества пользователей и их географического расположения;

г) совместимость и интеграция: если это определено назначением, ОЦП должна быть совместима со стандартными операционными системами и интернет-браузерами, а также поддерживать прикладной программный интерфейс (Application Programming Interface, API) или другие механизмы для интеграции с другими образовательными, информационными и клиническими системами;

д) доступность: ОЦП должна быть разработана таким образом, чтобы обеспечить надежную работу и минимизировать количество сбоев и простоев;

е) использование ИИ: ОЦП должна включать механизмы для использования ИИ в обучении. Необходимо предусмотреть механизмы для обновления, оптимизации и мониторинга работы моделей ИИ;

ж) пользовательский интерфейс: ОЦП должна быть спроектирована с учетом эргономических требований согласно ГОСТ Р ИСО 14915-1;

и) обновление ОЦП: должен быть организован процесс мониторинга работы ОЦП и внесения изменений или обновлений в систему с учетом его результата.

Требования к содержанию образовательных модулей, применяемых в ОЦП с использованием ИИ, должны включать следующее:

а) материалы для обучения должны быть актуальными, точными и соответствовать последним достижениям в области клинических и субклинических дисциплин. Они должны быть сформированы таким образом, чтобы обеспечивать последовательное и эффективное обучение, в том числе в соответствии с федеральными государственными образовательными стандартами по дисциплинам;

б) структура образовательных модулей: образовательный модуль или учебный элемент должен иметь четко определенную структуру, включающую, например, цели обучения, план урока, материалы для изучения, задания для самостоятельной работы и средства для оценки прогресса, а также соответствовать действующим требованиям к учебно-методическим материалам;

в) требования к использованию ИИ в обучающем процессе: ИИ должен быть использован для адаптации процесса обучения к индивидуальным потребностям студента, включая рекомендации по обучающим материалам, адаптивные задания и персонализированную обратную связь [7];

г) практические навыки: образовательный модуль может включать не только теоретические знания, но и практические навыки, необходимые для работы в клинической или иной среде (например, симуляции, технологии виртуальной реальности, сгенерированные данные и другие инструменты);

д) обновление содержания: необходимо предусмотреть возможность процедуры для регулярного обновления и проверки образовательных модулей, в том числе на соответствие правилам и стандартам оказания медицинской помощи, клиническим рекомендациям и иным действующим нормативно-правовым документам в сфере здравоохранения, чтобы гарантировать их актуальность и точность;

е) поддержка самостоятельного обучения: если это предусмотрено назначением, платформа должна предоставлять средства для поддержки самостоятельного обучения, включая доступ к дополнительным ресурсам, инструментам для самооценки, возможность повторения и углубления изученного материала;

ж) оценка обучения: должны быть предусмотрены механизмы для оценки прогресса обучающихся;

и) обратная связь: если это предусмотрено назначением, обучающиеся должны получать своевременную и конструктивную обратную связь по своей работе, включая рекомендации по совершенствованию своих знаний и навыков. ИИ может быть использован для автоматизации процесса обратной связи и его адаптации к индивидуальным потребностям студента.

Образовательные цифровые платформы должны быть разработаны с учетом этических норм образовательной деятельности, этического использования ИИ и медицинской этики. Кроме того, ОЦП должны соответствовать требования действующего законодательства, в том числе требованиям по соблюдению конфиденциальности персональных данных пользователей.

Должны быть разработаны и задокументированы методы испытаний ОЦП при их разработке и введении в эксплуатацию.

Примеры демонстрационных наборов данных для ОЦП с использованием ИИ приведены в приложении А.

В документации к ОЦП должны быть описаны требования к уровню знаний и компетенций обучающихся, которые могут использовать эту платформу.

А.1 В структуру демонстрационного набора данных для ОЦП с использованием ИИ включены наборы данных из элементов, содержащих разные виды медицинских данных: текстовые, звуковые, изображения, видео.

А.2 Структура базы данных:

а) примеры текстовых данных;

б) примеры звуковых данных;

в) примеры данных в формате изображений;

г) примеры данных в видеоформате.