"ПНСТ 1005-2025/ISO/TR 22100-5:2021. Предварительный национальный стандарт Российской Федерации. Безопасность машин. Взаимосвязь с ИСО 12100. Часть 5. Примеры последствий машинного обучения"
(утв. и введен в действие Приказом Росстандарта от 05.06.2025 N 15-пнст)

1 ПОДГОТОВЛЕН Обществом с ограниченной ответственностью "Интеллект-НН" (ООО "Интеллект-НН") на основе собственного перевода на русский язык англоязычной версии документа, указанного в пункте 4

2 ВНЕСЕН Техническим комитетом по стандартизации ТК 119 "Надежность в технике"

3 УТВЕРЖДЕН И ВВЕДЕН В ДЕЙСТВИЕ Приказом Федерального агентства по техническому регулированию и метрологии от 5 июня 2025 г. N 15-пнст

4 Настоящий стандарт идентичен международному документу ISO/TR 22100-5:2021 "Безопасность машин. Взаимосвязь с ISO 12100. Часть 5. Последствия обучения машин с искусственным интеллектом" (ISO/TR 22100-5:2021 "Safety of machinery - Relationship with ISO 12100 - Part 5: Implications of artificial intelligence machine learning", IDT).

Международный документ разработан Техническим комитетом ТК 199 "Безопасность машин" Международной организации по стандартизации (ИСО).

Наименование настоящего стандарта изменено относительно наименования указанного международного документа для приведения в соответствие с ГОСТ Р 1.5-2012 (пункт 3.5).

Дополнительные сноски в тексте стандарта, выделенные курсивом, приведены для пояснения текста оригинала

Основная цель настоящего стандарта состоит в предоставлении примеров применения в машиностроении обучения машин с искусственным интеллектом (ИИ), т.е. машинного обучения. Существенная сложность внедрения машинного обучения может привести к снижению безопасности при эксплуатации машин.

Система управления может использовать машинное обучение (технологию ИИ) для улучшения работы машины или выполнения задач. В процессе обучения система управления изучает требуемое поведение машины. Это включает в себя два этапа: обучение и логические выводы (автономная работа).

Настоящий стандарт может помочь проектировщикам машин в разработке решений, подходящих для конкретных областей применения. В настоящем стандарте приведено описание применения процесса оценки риска в соответствии с ИСО 12100 к машинному обучению в машиностроении.

В настоящем стандарте рассмотрено воздействие обучения машин с искусственным интеллектом (ИИ), т.е. машинного обучения, на безопасность машин <1> и систем машин.

--------------------------------

<1> См. ГОСТ ЕН 1070-2003 "Безопасность оборудования. Термины и определения" (пункт 3.7).

В настоящем стандарте приведено описание опасностей, связанных с применением машинного обучения в машинах или системах машин, предназначенных для работы в пределах установленных границ, а также то, как эти опасности следует рассматривать в процессе оценки рисков.

Настоящий стандарт не применим к машинам или системам машин с использованием машинного обучения, предназначенным для работы за пределами установленных границ, что может привести к непредсказуемым последствиям.

В настоящем стандарте не рассмотрены системы безопасности с использованием ИИ, например датчики безопасности и другие компоненты систем управления, связанные с безопасностью.

В настоящем стандарте нормативные ссылки отсутствуют.

В настоящем стандарте применены следующие термины с соответствующими определениями.

ИСО и МЭК ведут терминологические базы данных для использования в области стандартизации по следующим адресам:

- платформа онлайн-просмотра ИСО: доступна по адресу /template/go.php?url=https://www.iso.org/obp;

- Электропедия МЭК: доступна по адресу /template/go.php?url=https://www.electropedia.org/.

3.1 искусственный интеллект, ИИ (artificial intelligence AI): Отрасль науки, занимающаяся разработкой систем обработки данных, которые выполняют функции, обычно ассоциирующиеся с интеллектом человека, такие как, например, логические заключения, обучение и самосовершенствование <2>.

--------------------------------

<2> См. также ГОСТ 33707-2016 "Информационные технологии. Словарь" (пункт 4.464), ГОСТ Р 59895-2021 "Технологии искусственного интеллекта в образовании. Общие положения и терминология" (пункт 2.1.3).

[ISO/IEC 2382:2015, 2121393, изменено - Слово "компьютерной" было исключено из определения]

3.2 машинное обучение (machine learning): Процесс обучения машин с ИИ на основе существующих данных для прогнозирования будущих результатов без использования явного программирования <1>.

--------------------------------

<1> См. также ГОСТ 33707-2016 "Информационные технологии. Словарь" (пункт 4.801), ГОСТ Р 59895-2021 "Технологии искусственного интеллекта в образовании. Общие положения и терминология" (пункт 2.1.7).

[ISO/IEC 38505-1:2017, 3.7]

Организации машиностроительного комплекса постоянно разрабатывают решения с использованием ИИ для различных прикладных процессов, таких как:

a) контроль качества;

b) оптимизация процессов;

c) мониторинг состояния/отказов;

d) предупредительное техническое обслуживание.

Основными целями такого применения являются:

- оптимизация функционирования машин/задач, выполняемых машиной;

- более эффективное использование ресурсов;

- снижение воздействий на окружающую среду;

- улучшение условий труда.

Некоторые применения ИИ могут влиять на функции машины, следовательно, на ее безопасность. Возможность непосредственного воздействия ИИ на безопасность машины зависит от предполагаемого результата оптимизации и ее практической реализации в конструкции машины.

4.2.1.1 Общие положения

Существует много примеров, когда процессы оптимизации не воздействуют на безопасность, например, упаковочные роботы оптимизируют погрузку на тележку или поддон изделий различных размеров. Цель в данном случае - сформировать упаковку, не превышающую определенных размеров или веса. Таким образом, эти процессы предопределены. Они не влияют на безопасность. В таких ситуациях применение ИИ не создает новых опасностей или повышения рисков, которые не могут быть устранены мерами по снижению риска, применяемыми к упаковочному роботу без ИИ.

4.2.1.2 Оптимизация машины для опрыскивания гербицидами <2>)

--------------------------------

<2> Например, машины для разбрызгивания жидкости Blue River Technology Inc., с которыми можно ознакомиться по следующему адресу: /template/go.php?url=https://smartmachines.bluerivertechnology.com. Это пример продукции, имеющейся в продаже. Данная информация приведена для удобства пользователей настоящего стандарта и не является одобрением данной продукции со стороны ИСО.

Сегодня все еще распространена практика, когда сельскохозяйственные машины обрабатывают все растения так, как будто у них одинаковые потребности. Для машин, разбрызгивающих гербициды, это означает равномерное опрыскивание (когда одинаковое количество гербицида попадает на каждый участок независимо от фактического наличия сорняков).

Система ИИ, позволяющая идентифицировать большее разнообразие растений как сельскохозяйственных культур, так и сорняков (распознавание образов с помощью глубокого обучения), обеспечивает необходимую точность для принятия решений по управлению действиями в области растениеводства (точное земледелие) на месте. Для применения этой системы ИИ машины для опрыскивания гербицидами оснащены множеством камер, которые соединены со специальными форсунками. На основе распознавания образов на месте (культурное растение или сорняк) включением отдельных форсунок обеспечивается оптимальное расходование гербицида.

Что касается соответствующей функции машины (опрыскивание гербицидом), то безопасность при эксплуатации такого типа опрыскивателей обеспечивает надлежащая защита оператора машины от аэрозоля с гербицидом в виде кабины (с фильтром или системой избыточного давления) самого опрыскивателя или сельскохозяйственного трактора, буксирующего опрыскиватель. Предписанное применение машины с ИИ по сравнению с обычной машиной не создает никаких дополнительных опасностей и не увеличивает уже существующие опасности. Таким образом, нет необходимости в принятии дополнительных мер по обеспечению безопасности машины.

4.2.1.3 Оптимизация системы перемещения деталей в станке для лазерной резки <1>

--------------------------------

<1> Например, см. информационный бюллетень "Примеры искусственного интеллекта" на сайте TRUMPF (/template/go.php?url=https://www.trumpf.com). Это пример продукции, имеющейся в продаже. Данная информация приведена для удобства пользователей настоящего стандарта и не является одобрением данной продукции со стороны ИСО.

Полностью автоматизированный станок для лазерной резки металла вырезает детали из металлического листа и удаляет их со станка. Ассортимент форм, размеров и толщины деталей практически бесконечен. Станок может удалять детали из листа различными способами, используя присоски и штифты; если этого не делать, деталь может заклинить, и станок остановится. Благодаря наличию более 2500 присосок для удаления деталей из оставшегося листа, переместить деталь часто удается с первой попытки. Если этого не происходит, машина может самостоятельно принять решение о повторении своих действий столько раз, сколько необходимо. Наличие 180 штифтов, используемых для выдавливания детали из оставшегося листа металла, позволяет использовать другой способ перемещения детали. Этот способ работает более эффективно благодаря принятию решения с помощью ИИ. Каждый раз, когда с первой попытки не удается извлечь деталь, но затем она успешно извлекается, это приводит к получению новых данных. Автоматический централизованный процесс анализирует данные и сравнивает их с другими данными. Результаты сравнения данных затем могут быть переданы с одного станка на все станки того же типа. Таким образом, другие станки получают информацию о наилучшем способе удаления аналогичной детали с первой попытки. Можно надеяться, что в будущем такие системы будут постоянно совершенствоваться на основе данных, полученных от сотен тысяч пользователей всей совокупности таких станков.

Что касается основной функции станка (резка и перемещение металлических деталей), то безопасную эксплуатацию станка для лазерной резки такого типа обеспечивают ограничения доступа к режущему столу с помощью ограждений (неподвижных и/или подвижных). Предписанное применение машины с ИИ по сравнению с обычной функцией машины не создает дополнительных опасностей и не увеличивает уже существующие опасности. Таким образом, нет необходимости в принятии дополнительных мер по обеспечению безопасности станков.

Примером воздействия на безопасность является автоматически управляемое транспортное средство (AGV), которое работает в пространстве, не ограниченном по периметру защитными устройствами (например, стационарными ограждениями, световыми завесами безопасности), и самостоятельно оптимизирует свое перемещение с помощью ИИ. В этом случае применение ИИ создает новые опасности или увеличивает риски, которые не учитывают при оценке риска AGV без ИИ, работающего в пространстве, ограниченном по периметру защитными устройствами.

Примечание - Под AGV также понимают "промышленный грузовой автомобиль без водителя" (см. ИСО 3691-4).

AGV без ИИ движется по заранее определенным маршрутам. Маршруты в основном отделены от окружающего пространства.

В обоих случаях (для AGV без ИИ, работающего в пространстве, ограниченном защитными устройствами, и автономного AGV с ИИ, работающего в пространстве, не ограниченном защитными устройствами) применимы принципы оценки и снижения риска, установленные в ИСО 12100.

Автономное AGV может передвигаться по территории организации маршрутами, которые не отделены от других зон (например, рабочих мест). Здесь люди находятся в случайных местах. ИИ рассчитывает предпочтительный маршрут и скорость AGV для оптимизации общего процесса транспортировки.

В таблице 1 описаны основные аспекты процесса оценки и снижения риска в соответствии с ИСО 12100 для AGV с ИИ по сравнению с AGV без ИИ.

Оценка риска для AGV с ИИ в таблице 1 относится только к риску столкновения.

Основными различиями в отношении соответствующих мер по снижению риска (в соответствии с ИСО 12100) для AGV с ИИ по сравнению с AGV без ИИ являются:

- определение предполагаемого использования и, в частности, ограничений использования машины (гибкость управления в пределах заданных границ);

- снижение риска за счет систем обнаружения на основе датчиков (в отличие от защитных устройств), которые способны регулировать/останавливать опасные перемещения машины (усилие, энергия, скорость, крутящий момент и т.д.).

Примечание - В соответствии с ИСО 3691-4 и ИСО 17757 существуют стандарты, которые регулируют аспекты безопасности, относящиеся к автоматическим и полуавтоматическим машинам.

Риски, связанные с использованием ИИ в машиностроении, могут быть полностью устранены с помощью методов оценки и обработки рисков, приведенных в ИСО 12100, где риски, связанные с ИИ, рассмотрены в соответствии с предполагаемым использованием и ограничениями использования (заранее установленными границами), указанными изготовителем машины.