"ПНСТ 840-2023 (ISO/IEC TR 24368:2022). Предварительный национальный стандарт Российской Федерации. Искусственный интеллект. Обзор этических и общественных аспектов"
(утв. и введен в действие Приказом Росстандарта от 16.11.2023 N 60-пнст)

1 ПОДГОТОВЛЕН Федеральным государственным автономным образовательным учреждением высшего образования "Национальный исследовательский университет "Высшая школа экономики" (НИУ ВШЭ) на основе собственного перевода на русский язык англоязычной версии документа, указанного в пункте 4

2 ВНЕСЕН Техническим комитетом по стандартизации ТК 164 "Искусственный интеллект"

3 УТВЕРЖДЕН И ВВЕДЕН В ДЕЙСТВИЕ Приказом Федерального агентства по техническому регулированию и метрологии от 16 ноября 2023 г. N 60-пнст

4 Настоящий стандарт модифицирован по отношению к международному документу ISO/IEC TR 24368:2022 "Информационные технологии. Искусственный интеллект. Обзор этических и общественных аспектов" (ISO/IEC TR 24368:2022 "Information technology - Artificial intelligence - Overview of ethical and societal concerns", MOD) путем изменения отдельных фраз и ссылок, которые выделены в тексте курсивом.

Внесение указанных технических отклонений направлено на учет национальных интересов Российской Федерации.

Наименование настоящего стандарта изменено относительно наименования указанного международного документа для приведения в соответствие с ГОСТ Р 1.5-2012 (пункт 3.5)

Искусственный интеллект (ИИ) обладает потенциалом для инновационных изменений в мире и несет в себе множество преимуществ для общества, организаций и частных лиц. Однако ИИ может нести в себе значительные риски и неопределенности. Специалисты, исследователи, регулирующие органы и физические лица должны знать об этических и общественных аспектах, связанных с системами и приложениями ИИ.

Потенциальные этические проблемы, связанные с ИИ, имеют широкий спектр. Примеры этических и общественных аспектов, связанных с ИИ, различны: от нарушений неприкосновенности частной жизни и безопасности до различных видов дискриминации и воздействия на автономию человека. Источники этических и общественных аспектов включают, но не ограничиваются следующими позициями:

- несанкционированные средства или способы сбора, обработки или раскрытия персональных данных;

- получение и использование необъективных, неточных или нерепрезентативных данных для обучения;

- непрозрачное принятие решений в области машинного обучения (ML) или недостаточное документирование, обычно называемое отсутствием объяснимости;

- отсутствие возможности отслеживания;

- недостаточное понимание общественного воздействия технологии после ее внедрения.

Системы ИИ могут демонстрировать несправедливые результаты работы, особенно когда они обучаются на предвзятых или несоответствующих (в т.ч. искаженных, нерепрезентативных, ошибочных и т.п.) данных или когда модель либо алгоритм не соответствует своему назначению. Ценности, заложенные в алгоритмы, а также выбор задач, для решения которых используют системы и приложения ИИ, могут быть намеренно или ненамеренно сформированы под влиянием мировоззрения и когнитивных предубеждений разработчиков и заинтересованных сторон.

Дальнейшее развитие ИИ может расширить возможности существующих систем и приложений, распространив их на новые области и повысив уровень автоматизации, которым обладают эти системы. Решение этических и общественных аспектов не успевает за быстрым развитием ИИ. Следовательно, проектировщики, разработчики, специалисты по внедрению и пользователи ИИ могут извлечь пользу из гибкого и сбалансированного вклада в этические рамки, принципы ИИ, инструменты и методы снижения рисков, оценку этических факторов, передовую практику тестирования, оценку воздействия и этические обзоры. Эти задачи можно решить с помощью инклюзивного, междисциплинарного, разнообразного и межсекторального подходов, включающих все заинтересованные стороны ИИ, при содействии международной стандартизации, в рамках которой рассмотрены различные вопросы, возникающие в связи с этическими и общественными аспектами ИИ, включая и деятельность Объединенного технического комитета ISO/IEC JTC 1, SC 42.

В настоящем стандарте представлен высокоуровневый обзор этических и социальных (общественных) проблем искусственного интеллекта (ИИ). Кроме того, настоящий стандарт:

- содержит информацию о принципах, процессах и методах в этой области;

- предназначен для технологов, регулирующих органов, заинтересованных групп и общества в целом;

- не предназначен для продвижения какого-либо конкретного набора ценностей (системы ценностей).

Настоящий стандарт включает обзор международных стандартов, в которых рассмотрены вопросы, возникающие в связи с этическими и общественными аспектами ИИ.

В настоящем стандарте использованы нормативные ссылки на следующие стандарты:

Примечание - При пользовании настоящим стандартом целесообразно проверить действие ссылочных стандартов в информационной системе общего пользования - на официальном сайте Федерального агентства по техническому регулированию и метрологии в сети Интернет или по ежегодному информационному указателю "Национальные стандарты", который опубликован по состоянию на 1 января текущего года, и по выпускам ежемесячного информационного указателя "Национальные стандарты" за текущий год. Если заменен ссылочный стандарт, на который дана недатированная ссылка, то рекомендуется использовать действующую версию этого стандарта с учетом всех внесенных в данную версию изменений. Если заменен ссылочный стандарт, на который дана датированная ссылка, то рекомендуется использовать версию этого стандарта с указанным выше годом утверждения (принятия). Если после утверждения настоящего стандарта в ссылочный стандарт, на который дана датированная ссылка, внесено изменение, затрагивающее положение, на которое дана ссылка, то это положение рекомендуется применять без учета данного изменения. Если ссылочный стандарт отменен без замены, то положение, в котором дана ссылка на него, рекомендуется применять в части, не затрагивающей эту ссылку.

В настоящем стандарте применены термины по [1], а также следующие термины с соответствующими определениями:

3.1 агентство (agency): Способность определять свои цели и действовать в соответствии с ними.

Примечание - См. [2], 3.6.2.

3.2 смещенность (bias): Систематическое различие в обработке определенных объектов, людей или групп по сравнению с другими.

Примечание - См. [3], 3.2.2.

3.3 управление данными (data management): Процесс отслеживания всех данных и/или информации, связанной с созданием, производством, распространением, хранением, утилизацией и использованием электронных медиа (e-media), а также сопряженных с этим процессов.

Примечание - См. [4], 3.5.4.

3.4 защита данных (data protection): Правовые, административные, технические или физические меры, принятые для предотвращения несанкционированного доступа к данным и их использования.

Примечание - См. [5], 3.13.5.01.

3.5 равенство (equality): Состояние равенства, особенно в статусе, правах или возможностях.

Примечание - См. [6], 3.9.

3.6 равноправие (equity): Практика устранения преодолимых или исправимых различий между группами людей независимо от того, определяются ли эти группы социально, экономически, демографически или географически.

3.7 справедливость (fairness): Обработка, поведение или результаты, которые основаны на установленных фактах, общественных нормах и убеждениях и не определяются или не зависят от превосходства или несправедливой дискриминации.

Примечания

1 Соображения справедливости в значительной степени контекстуальны и варьируются в зависимости от культуры, поколения, географии и политических взглядов.

2 Справедливость - это не то же самое, что отсутствие предвзятости. Предвзятость не всегда приводит к несправедливости, а несправедливость может быть вызвана факторами, отличными от предвзятости.

3.8 когнитивная предвзятость (cognitive bias): Когнитивная предвзятость человека (human cognitive bias); предубеждение, возникающее при обработке и интерпретации информации человеком.

Примечание - Когнитивная предвзятость человека влияет на суждения и принятие решений (см. [3], 3.2.4).

3.9 жизненный цикл (life cycle): Эволюция системы, продукта, услуги, проекта или другого созданного человеком объекта от замысла до вывода из эксплуатации.

Примечание - См. [7], 3.1.26.

3.10

3.11 приватность (privacy): Права субъекта (обычно физического лица или организации), действующего от своего имени, определять степень сохранения конфиденциальности своей информации.

Примечание - См. [8], 3.1.46.

3.12

3.13 обработка (treatment): Вид действия, такой как восприятие, наблюдение, представление, предсказание или решение.

Примечание - См. [3], 3.2.2.

3.14 защищенность; защита; сохранность (safety): Ожидание того, что при определенных условиях система не приведет к состоянию, при котором жизнь, здоровье, имущество или окружающая среда человека окажутся под угрозой.

Примечание - См. [7], 3.1.48.

3.15 безопасность (security): Аспекты, связанные с определением, достижением и поддержанием конфиденциальности, целостности, доступности, подотчетности, аутентичности и достоверности.

Примечания

1 Продукт, система или услуга считаются безопасными в той степени, в которой их пользователи могут быть уверены, что они функционируют (или будут функционировать) так, как задумано, т.е. предусмотренным образом. Обычно это рассматривается в контексте оценки фактических или предполагаемых угроз.

2 См. [9], 3.25.

3.16 устойчивость (sustainability): Состояние международной системы, включая экологические, общественные и экономические аспекты, при котором потребности настоящего удовлетворяются без ущерба для способности будущих поколений удовлетворять свои собственные потребности.

Примечание - См. [10], 3.1.

3.17 прослеживаемость (traceability): Способность идентифицировать или восстановить историю, происхождение, применение, использование и местонахождение объекта/элемента или его характеристик.

3.18 цепочка создания стоимости (value chain): Совокупность видов деятельности или сторон, которые создают или получают ценность в виде продукции или услуг.

Примечание - См. [11], 3.2.11.

Этические и общественные аспекты являются факторами, которые необходимо учитывать при разработке и использовании систем и приложений ИИ. Учет контекста, масштаба и рисков может смягчить нежелательные этические и социальные (общественные) последствия и вред. Примеры областей, где возрастает риск нежелательных этических и общественных последствий и вреда, включают следующие (см. [12]):

- финансовый ущерб;

- психологический вред;

- вред физическому здоровью или безопасности;

- нематериальная собственность [например, кража интеллектуальной собственности (ИС), ущерб репутации компании];

- социальные или политические системы (например, вмешательство в выборы, потеря доверия к властям);

- гражданские свободы (например, необоснованное тюремное заключение или другое наказание, цензура, нарушение неприкосновенности частной жизни).

В случае пренебрежения анализом таких факторов существует риск того, что технология может повлечь за собой значительные общественные или иные последствия с возможными непреднамеренными или непрогнозируемыми затратами, даже если она безупречна с технической точки зрения.

В различных источниках этические и общественные аспекты рассмотрены конкретно или в общем виде. Некоторые из этих источников приведены ниже.

Прежде всего, в [10] приведены рекомендации для разработчиков стандартов по учету устойчивости в их деятельности с конкретной ссылкой на руководство по социальной ответственности в ГОСТ Р ИСО 26000. Таким образом, настоящий стандарт описывает социальную ответственность в форме, которая может послужить основой для деятельности, связанной со стандартизацией доверенного ИИ.

В ГОСТ Р ИСО 26000 представлено руководство по социальной ответственности. Оно основано на фундаментальных практиках:

- признание социальной ответственности в организации;

- выявление и привлечение заинтересованных сторон.

Без данных разработка и использование ИИ невозможны. Поэтому значимость данных и их качества делает прослеживаемость и управление данными ключевыми аспектами при использовании и развитии ИИ.

В основе создания этичного и устойчивого ИИ лежат следующие элементы, ориентированные на данные:

- сбор данных (включая средства или способы такого сбора данных);

- подготовка данных;

- контроль прослеживаемости;

- контроль доступа и обмена данными (аутентификация);

- защита данных;

- контроль хранения (добавление, изменение, удаление);

- качество данных.

Эти элементы влияют на объяснимость, прозрачность, безопасность и конфиденциальность, особенно в случаях создания, контроля или обработки персональной идентифицируемой информации. Прослеживаемость и управление данными являются существенными аспектами для той организации, которая использует или разрабатывает системы и приложения ИИ.

В [13] изложена ценность данных, риски и ограничения при регулировании вопросов, касающихся того, как данные собирают, хранят, распространяют, утилизируют, предоставляют (отражают) и используют в процессе принятия решений и организационных процедур. Результаты деятельности по извлечению данных или машинному обучению при составлении отчетов и принятии решений рассмотрены как еще одна форма данных, на которые, следовательно, распространены те же руководящие принципы управления данными.

Кроме того, описание этических и общественные аспектов, связанных с системами и приложениями ИИ, может быть основано на международной практике использования ИИ.

В [1] также приведен набор заинтересованных сторон, участвующих в разработке и использовании системы ИИ, а также описано участие различных заинтересованных сторон ИИ в цепочке создания стоимости системы ИИ, которые включают поставщика ИИ, производителя ИИ, заказчика ИИ, партнера ИИ и субъекта ИИ, в том числе различные второстепенные роли этих заинтересованных сторон. В настоящем стандарте все эти разные типы заинтересованных сторон обобщенно именуются заинтересованными сторонами.

Органы регулирования и выработки политики в качестве вспомогательной роли субъекта ИИ перечислены в [1]. Регулирующие роли для ИИ в настоящее время широко не определены, но сделан ряд предложений, включая: организации, назначенные отдельными заинтересованными сторонами; отраслевые представительные органы; самостоятельно назначенные субъекты гражданского общества или учреждения, созданные на основе национального законодательства или международного договора.

Перечисленные выше аспекты включены в описание этических и общественных аспектов, связанных с ИИ (см. [1]).

Поскольку ИИ способен оказать воздействие на широкий круг заинтересованных сторон общества, включая будущие поколения, на которые повлияют изменения в окружающей среде (косвенно затронутые заинтересованные стороны). Например, изображения пешеходов на тротуаре могут быть получены с помощью технологии автономных транспортных средств, или рядовые люди могут стать объектом полицейского наблюдения с использованием оборудования, предназначенного для изучения лиц, подозреваемых в преступлении.

Руководящие принципы по управлению рисками, связанными с ИИ, с которыми сталкиваются организации при разработке и применении технических методов и систем ИИ, приведены в [14]. В ГОСТ Р ИСО 31000 представлена структура, а также содержится руководство, необходимое при разработке и использовании систем ИИ. Система управления рисками, описанная в [14], помогает в описании этических и общественных аспектов в настоящем стандарте.

Типы и формы смещенности, способы их измерения и смягчения, а также концепция справедливости в системах ИИ описаны в [3]. Предвзятость и справедливость важны для описания специфических для ИИ этических и общественных аспектов.

Введение в прозрачность и объяснимость систем ИИ, которые являются существенными аспектами надежности и могут влиять на этические и общественные аспекты, приведено в [15].

Набор из 124 примеров использования приложений ИИ в 24 различных областях применения описан в [16]. В данных примерах определены заинтересованные стороны, активы и ценности заинтересованных сторон, а также перечислены угрозы и уязвимости описанной системы и приложения ИИ. Некоторые из примеров описывают общественные и этические проблемы.

Руководство по последствиям управления для организаций, участвующих в разработке и использовании систем ИИ, рассмотрено в [17]. Это руководство дополняет меры, определенные в ГОСТ Р ИСО/МЭК 38500 (см. также [13], [18]).

Управление является ключевым механизмом, с помощью которого организация может решать этические и социальные последствия своего участия в системах и приложениях ИИ.

Определены также требования к созданию, внедрению, поддержанию и постоянному усовершенствованию системы управления информационной безопасностью в контексте организации (см. [19]). Он также включает требования к оценке и обработке рисков информационной безопасности с учетом потребностей организации. Требования, изложенные в [19], носят общий характер и могут служить основой для системного управления информационной безопасностью в контексте ИИ. Это, в свою очередь, может оказать последующее влияние на этические и общественные вопросы в системах и приложениях ИИ. ГОСТ Р ИСО/МЭК 27002 содержит руководящие принципы для стандартов информационной безопасности организации и практики управления информационной безопасностью, включая выбор, внедрение и управление средствами контроля, а также для управления конфиденциальностью данных в организации.

Примечание - См. [19] для управления конфиденциальной информацией в контексте ИИ, а также для руководства по созданию, внедрению, поддержанию и постоянному совершенствованию системы управления конфиденциальной информацией в форме расширения.

Этика ИИ - это область прикладной этики, т.е. принципы и практика редко являются результатом применения этических теорий. Тем не менее многие проблемы тесно связаны с традиционными этическими концепциями и проблемами, например: такие понятия, как конфиденциальность, объективность и автономия, могут быть рассмотрены в существующих этических рамках. Дополнительные возможные этические рамки (этические концепции и подходы) приведены в [20]. Этот список этических рамок не является ни исчерпывающим, ни взаимоисключающим. Следовательно, могут быть рассмотрены этические рамки, выходящие за границы перечисленных в [21].

В 4.3.2 - 4.3.4 приведены основные этические системы, которые условно обобщают философские теории и концепции целого ряда мыслителей, представителей различных философских школ. В рамках каждой из представленных систем существуют различные подходы, которые исторически отражают философские поиски в сфере этических проблем. Такие подходы и этические системы не должны быть определены и истолкованы как правильные или неправильные, верные или ошибочные, полезные или вредные, они приведены исключительно с целью показать многообразие теоретических изысканий философов разных эпох. Исходя из этого представленное общее описание основных этических систем не имеет целью продвигать определенные философские теории и не носит рекомендательный характер <1>.

--------------------------------

<1> Внесено на основании замечаний и предложений экспертов для учета в настоящем стандарте национальных интересов и защиты пользователей и населения.

Этика добродетели - это этическая система, определяющая совокупность добродетелей, к которым следует стремиться (например, уважение, честность, мужество, сострадание, щедрость), и совокупность пороков или недостатков (например, нечестность, ненависть), которых следует избегать. Достоинством этики добродетели является ее гибкость и устремленность. Ее основной недостаток заключается в том, что она не предлагает конкретных рекомендаций для реализации. Систему ИИ можно считать объективной при наличии механизма, с помощью которого эта добродетель реализуется на практике. Однако с учетом технических ограничений этика добродетели может служить полезным инструментом для определения того, является ли применение ИИ отражением человеческих добродетелей.

Утилитаризм - это этическая система, которая стремится к максимальному благу и минимальному вреду. Утилитарный выбор - это выбор, который приносит наибольшее благо и наносит наименьший вред всем заинтересованным сторонам. После логического объяснения этических аспектов проблемы утилитарные подходы универсальны и интуитивно понятны. Основной недостаток утилитаризма заключается в том, что утилитарные подходы допускают причинение вреда некоторым ради блага общего. В качестве примера можно привести проблему тележки [22], где утилитаризм поддерживает убийство, или пример с трансплантационными пациентами в больнице, где утилитаризм поддерживает вскрытие здорового донора для пересадки его органов нескольким пациентам (см. [23]). Кроме того, многие моральные соображения трудно поддаются количественной оценке (например, достоинство) или являются субъективными - то, что хорошо для одного человека, может не быть хорошо для другого. Моральные соображения настолько различны, что их трудно сопоставить друг с другом, например загрязнение окружающей среды против общественной правды. Кроме того, утилитаризм как система является разновидностью консеквенциализма - доктрины, согласно которой цель оправдывает средства. Консеквенциализм поддерживает создание решений, обеспечивающих чистую выгоду, но не требует, чтобы эти решения функционировали этично, например беспристрастно (непредвзято) (см. [24]).

Деонтология - это этическая система, которая оценивает мораль по набору заранее определенных обязанностей или правил. Конкретным механизмом для такого определения является набор правил или кодифицированных норм, которые можно проанализировать в данный момент, не просчитывая, какими могут быть последствия этих действий. Примером такого правила является равенство возможностей в рамках обеспечения справедливости. Равенство возможностей диктует, что люди, которые претендуют на возможность, имеют равные шансы сделать это, независимо от принадлежности к социальной группе. Основной недостаток деонтологии заключается в том, что такие универсальные правила трудно вывести на практике и они могут быть неустойчивыми при применении в перекрестных контекстах или в сильно изменчивой среде.

Международные права человека, изложенные во Всеобщей декларации прав человека (см. [25]), цели в области устойчивого развития ООН (см. [26]) и руководящие принципы ООН в области предпринимательской деятельности и прав человека (см. [27]) являются фундаментальными моральными принципами, на которые человек имеет право по определению. Они могут служить руководящей основой для управления корпоративной ответственностью в отношении систем и приложений ИИ с учетом международного одобрения в качестве более зрелой основы для оценки политики и технологий. Международные права человека могут также обеспечить установленный процесс для проведения должного соблюдения предосторожности и оценки воздействия. Вопросы прав человека для управления ИИ в организациях рассмотрены в [17].

Рамочные подходы, такие как этика в отношении медицинского обслуживания или социальная справедливость, способствуют многим темам, представленным в 6.2, включая конфиденциальность, объективность и недискриминацию, продвижение человеческих ценностей, безопасность и надежность, а также уважение международных норм поведения. Кроме того, многие источники международного права и правовые принципы могут индивидуально дополнять несколько тем. Они включают, но не ограничиваются следующим:

- всеобщая декларация прав человека (см. [25]);

- руководящие принципы ООН в области предпринимательской деятельности и прав человека (см. [27]);

- Международная конвенция о ликвидации всех форм расовой дискриминации (см. [28]);

- декларация о правах коренных народов (см. [29]);

- конвенция о ликвидации дискриминации в отношении женщин (см. [30]);

- конвенция о правах инвалидов (см. [31]).

Эти источники можно понять с точки зрения их цели - повышения стандартов и практики в отношении бизнеса и прав человека, а также достижения значительных результатов для подверженных воздействию лиц и сообществ. Соответствующие вопросы включают должную предосторожность в деятельности организации для выявления и смягчения воздействия на права человека. В тех случаях, когда права человека затрагиваются деятельностью организации в области ИИ, четкие, доступные, прогнозируемые и справедливые механизмы могут быть применены для разрешения жалобы.

Некоторые примеры потенциального воздействия ИИ на гражданские и политические права человека включают:

- право на жизнь, свободу и личную безопасность (например, использование автономного оружия или мотивированных ИИ практик сбора данных);

- право на свободу мнения, выражения и доступ к информации (например, использование фильтрации или синтеза цифрового контента с помощью ИИ);

- свобода от дискриминации и право на равенство перед законом (например, на это влияет использование алгоритмов оценки судебных рисков с помощью ИИ, предиктивного полицейского инструмента для профилактики преступлений или финансовых технологий);

- свобода от неоправданного вмешательства в частную жизнь, семью, дом или корреспонденцию (например, несанкционированные, основанные на ИИ средства и меры по сбору чувствительных биометрических и физиологических данных);

- право на образование и желаемую работу (например, использование ИИ при найме людей на работу или предоставлении доступа к образованию и обучению).

В дополнение к правозащитной практике, упомянутой в разделе 5, принципы ИИ могут помочь организациям разрабатывать и использовать ИИ ответственным образом. Цель этих принципов заключается в том, чтобы помочь организациям выйти за рамки непричинения вреда и сосредоточиться на обеспечении пользы технологии, например: разработка ИИ, призванного содействовать общественному благу и выполняющего эту конкретную функцию, а не просто направленного на предотвращение вреда.

Эти принципы распространяются не только на поставщиков и производителей ИИ, но и на предполагаемое использование систем ИИ. Когда системы ИИ становятся доступными для потребителей ИИ и других заинтересованных сторон, следует также изучить возможности их ненадлежащего (непредусмотренного) использования, злонамеренного применения или неиспользования (см. [15], 9.9.1):

- чрезмерную зависимость от систем ИИ, ведущую к негативным результатам (злоупотребление);

- недостаточное использование систем ИИ, приводящее к негативным результатам (неиспользование);

- негативные результаты, возникающие в результате использования или перепрофилирования систем ИИ в области, для которой они не были разработаны и испытаны (например, неправомерное или непредусмотренное использование).

Системы ИИ особенно подвержены злоупотреблениям и нецелевому использованию из-за того, что они имитируют человеческие возможности. Когда система кажется похожей на человеческую, но при этом не имеет контекста, который бы учитывали люди, пользователи могут использовать ее неправильно или не по назначению. Такое неправильное использование или неиспользование может возникнуть из-за того, что системе доверяют больше или меньше, чем это оправдано, например: при автономном вождении, медицинской диагностике или одобрении кредитов.

В ответ на эти опасения, в ожидании государственного регулирования или в попытке саморегулирования отрасли, в международном сообществе появилось несколько наборов принципов для ИИ. Они были задокументированы в различных публикациях (см. приложение A).

Настоящий раздел соответствует структуре, изложенной в докладе Центра Беркмана Кляйна (см. A.1), в котором принципы ИИ сгруппированы по темам. Темы возникли из вопросов этического характера, для решения которых принципы созданы. Принципы в рамках этих тематических групп могут значительно различаться и даже противоречить друг другу. Темы, специфичные для ИИ, дополняют темы, представленные в ГОСТ Р ИСО 26000, в нем изложены принципы, которые организация должна учитывать с целью социально ответственного поведения.

Подотчетность (см. [32]) обеспечивается, когда организация принимает на себя ответственность за воздействие на заинтересованные стороны, общество, экономику и окружающую среду. Подотчетность означает, что организация проводит соответствующую проверку (контроль, отчетность) с последующими обязательствами по реагированию на результаты этой проверки (контроля). Следовательно, подотчетность в отношении решений ИИ означает, что организация способна принять на себя ответственность за решения, принятые от ее имени, и не освобождается от ответственности за ошибочные решения, основанные, например, на результатах машинного обучения ИИ.

Подотчетность определяет, что организация и ее представители несут ответственность за негативные последствия, возникшие в результате проектирования, разработки, использования или неправильного использования систем и приложений ИИ любым лицом, применяющим технологии ИИ. Подотчетность также обеспечивает сосредоточенность и внимание на рассмотрении непреднамеренных последствий, которые могут возникнуть из-за эволюционного характера систем и приложений ИИ и сложности прогнозирования того, как системы и приложения ИИ могут быть использованы и перепрофилированы после развертывания. Без четких требований к подотчетности ограничения и границы не установлены, и потенциальный вред может остаться незамеченным.

Ответственность за решения организации в конечном итоге лежит на группе людей, которые руководят и контролируют организацию. Однако зачастую ответственность делегируется соответствующим ответственным лицам, поэтому сотрудников можно обучить разбираться в последствиях их работы по разработке, внедрению или использованию инструментов ИИ и нести ответственность за свою зону деятельности. Они также могут понять, какие действия необходимо предпринять для принятия соответствующих решений как в организационном, так и в инженерном контексте. Например, организация несет ответственность за разработку недискриминационной и прозрачной политики. В обязанности инженера входит разработка систем и приложений ИИ, которые следуют этой политике, обеспечивая разработку и использование недискриминационных, прозрачных и объяснимых алгоритмов.

Подотчетность обеспечивает необходимые ограничения, помогающие ограничить потенциальные негативные последствия и установить реалистичное и действенное управление рисками для организации. В совокупности они помогают определить, как расставить приоритеты в зоне ответственности. Некоторые аспекты, охватываемые этой темой, следующие:

- работа с заинтересованными сторонами для оценки потенциального влияния системы на ранних этапах проектирования;

- подтверждение того, что потребности заинтересованных сторон действительно удовлетворены;

- проверка того, что система ИИ работает так, как предполагалось;

- обеспечение прослеживаемости данных и алгоритмов на протяжении всей цепочки создания стоимости ИИ;

- обеспечение возможности проведения аудита третьей стороной и принятие мер в соответствии с его результатами;

- предоставление возможностей для оспаривания решений ИИ;

- исправление ошибочных или негативных решений ИИ, когда оспаривание или обжалование невозможно.

Тема справедливости и недискриминации (см. [33], [34]) направлена на обеспечение того, чтобы ИИ качественно работал для людей из различных социальных групп, особенно для тех, кто лишен социальной, политической или экономической власти в местном, национальном и международном контекстах. Эти социальные группы различаются в разных контекстах и включают, но не ограничиваются теми, которые требуют защиты от дискриминации по признаку пола, расы, цвета кожи, этнического или социального происхождения, генетических особенностей, языка, религии или убеждений, политических или любых других взглядов, принадлежности к национальному меньшинству, имущественного положения, рождения, инвалидности, возраста или сексуальной ориентации. Некоторые аспекты, охватываемые этой темой, следующие:

- смягчение предвзятого отношения к представителям различных групп;

- обеспечение сбора и применения учебных данных и данных о пользователях таким образом, чтобы они отражали интересы представителей различных групп;

- объективное, равноправное и равнозначное отношение к представителям различных групп;

- рассмотрение того, как ИИ может по-разному воздействовать на представителей различных групп;

- обеспечение равных возможностей для человеческого развития и обучения для всех членов различных групп;

- обеспечение смягчения влияния когнитивных или общественных предубеждений человека в процессе сбора и обработки данных, проектирования системы, обучения модели и принятия других решений по развитию, которые принимают отдельные лица;

- предоставление заинтересованным сторонам возможности обжаловать решение, если они считают его несправедливым.

--------------------------------

<1> Внесено на основании предложений экспертов для учета в настоящем стандарте национальных интересов и защиты пользователей и населения.

Принцип прозрачности в ГОСТ Р ИСО 26000 расширен и включает в себя объяснимость систем ИИ, чтобы гарантировать, что, когда заинтересованные стороны взаимодействуют с системой ИИ и приложением, ее решения являются одновременно прозрачными и объяснимыми, тем самым обеспечивая понимание ее работы.

Тема прозрачности и объяснимости направлена на то, чтобы люди понимали, когда они взаимодействуют с системой ИИ, как она принимает решения и как она разработана и протестирована, чтобы гарантировать, что система работает так, как задумано. Принцип в ГОСТ Р ИСО 26000 направлен на обеспечение прозрачности целей и процессов организации, в то время как специфические принципы ИИ направлены на обеспечение того, чтобы система ИИ была понятна в том, как она работает. Некоторые аспекты, которые охватываются этой темой, следующие:

- раскрытие прослеживаемости, информации об алгоритмах, обучающих данных и пользовательских данных, включая то, как они собраны;

- раскрытие методов оценки и метрик, используемых для подтверждения того, как работает система;

- объяснение заинтересованным сторонам исходных данных, которые использованы для принятия решения;

- объяснение заинтересованным сторонам, насколько это возможно, того, как система ИИ пришла к тому или иному решению;

- уведомление заинтересованных сторон, когда система ИИ принимает решение в отношении данных сторон;

- уведомление заинтересованных сторон, когда они взаимодействуют с системой ИИ;

- рассмотрение возможности предоставления заинтересованным сторонам тестовых примеров, чтобы увидеть, как система ИИ и приложение реагируют на различные ситуации.

--------------------------------

<1> Внесено на основании предложений экспертов для учета в настоящем стандарте национальных интересов и защиты пользователей и населения.

Аналогично подотчетности прозрачность и объяснимость применяются к решениям, принимаемым как на организационном, так и на алгоритмическом уровнях. Более подробная информация о прозрачности и объяснимости приведена в [34] - [39].

Подотчетность и этичное поведение тесно связаны с профессиональной ответственностью. Тема профессиональной ответственности направлена на то, чтобы специалисты, которые проектируют, разрабатывают или внедряют системы и приложения ИИ или продукты и системы на основе ИИ, осознавали свое уникальное положение, позволяющее им оказывать влияние на людей, общество и будущее ИИ - тем более что политика, нормы и принципы часто отстают от новых и развивающихся технологий. ИИ стимулирует их профессионализм и честность обеспечить ответственное развитие систем и приложений ИИ и направить их опыт на общественное обсуждение, образование и управление. Это также относится к экспертам в предметной области и к другим специалистам, которые используют технологии ИИ для выводов или принятия решений для осуществления действий в будущем (например, представители по найму, сотрудники приемных комиссий, ученые, судьи и сотрудники правоохранительных органов). Эта тема тесно связана с этикой добродетели (см. 4.3.2), которая фокусируется на чертах, характеристиках и достоинствах специалиста по ИИ. Некоторые аспекты, охватываемые этой темой, следующие:

- строгие методы оценки качества системы ИИ, понимание вреда, который может быть причинен проблемами в области качества, а также меры по снижению вреда;

- уделение целенаправленного внимания вероятным последствиям применения системы ИИ на этапе разработки, включая долгосрочные, глобальные последствия, а также те, которые могут возникнуть в результате неиспользования, неправильного использования и злоупотребления;

- консультации с соответствующими группами заинтересованных сторон при разработке и управлении использованием систем и приложений ИИ, включая политиков, профильных экспертов и заинтересованные организации, особенно при определении соответствия целям;

- этические принципы при разработке, включая инклюзивное проектирование, разнообразие, прозрачность и защиту частной жизни;

- профессиональные ценности и практика научной добросовестности, включая строгие научные методы, приверженность открытому исследованию, междисциплинарное сотрудничество. Это касается оценки научной обоснованности систем и приложений ИИ, делающих прогнозы, предоставляющих рекомендации или решения на основе коррелирующих данных, в конкретном контексте, в котором система может быть развернута.

Тема продвижения человеческих ценностей направлена на обеспечение того, чтобы ИИ внедрялся и использовался таким образом, чтобы приносить максимальную пользу обществу, способствовать благополучию и процветанию человечества. Некоторые человеческие ценности потенциально универсальны (см. [40]). Некоторые уникальные человеческие ценности включают (но не ограничиваются ими) целостность, свободу и уважение. ИИ можно внедрять таким образом, чтобы уважались общественные нормы, наилучшие интересы человечества, основные культурные убеждения и ценности, а также ценности заинтересованных сторон (см. [41]). Эта тема выходит за рамки непричинения вреда и фокусируется на пользе технологии, например: разработка ИИ, предназначенного для содействия общественному благу и выполняющего эту конкретную функцию в дополнение к стремлению избежать вреда. Продвижение человеческих ценностей в процессе разработки, внедрения и развертывания ИИ имеет решающее значение.

Конкретные области применения ИИ, направленные на продвижение человеческих ценностей, включают (но не ограничиваются ими):

- улучшение здоровья и здравоохранения;

- улучшение условий жизни;

- улучшение условий труда;

- усилия по охране окружающей среды и обеспечению устойчивости.

Приватность направлена на то, чтобы системы и приложения ИИ разрабатывались и внедрялись с учетом права физических лиц на приватность, а также это касается и умерших лиц (через управляющего их наследством или номинального представителя, если это применимо). Право на неприкосновенность частной жизни стало одной из наиболее заметных тем в разработке ИИ, во многом благодаря Общему положению о защите данных в Европейском союзе (см. [42]). Организация может обеспечить использование механизмов для реализации и демонстрации соответствия законодательным требованиям, касающимся неприкосновенности частной жизни и правил защиты данных (см. [42]). Процедуры, методы и критерии необходимы для обеспечения того, чтобы алгоритмы ИИ подбирались, разрабатывались и использовались для репрезентативного и прозрачного применения человеком, обеспечивая соблюдение неприкосновенности частной жизни. Общие аспекты неприкосновенности частной жизни включают:

- ограничение источника, сбора, использования или раскрытия данных только тем объемом, который необходим для выполнения намеченных целей и задач;

- информирование о целях обработки личной идентифицируемой информации и о любом ее совместном использовании;

- согласие: прозрачность данных о физическом или умершем лице, данные физических или умерших лиц не должны собираться или использоваться без их ведома (или ведома представителя) или разрешения;

- контроль над использованием данных: контроль физического или умершего лица (здесь и далее - через представителя) над использованием его личной идентифицируемой информации;

- степень влияния физических или умерших лиц на то, как и почему использована их личная информация;

- возможность ограничения обработки данных: право физических или умерших лиц на ограничение сбора или использования данных в связи с технологией ИИ;

- исправление: предоставление физическим или умершим лицам возможности изменить информацию, если она неверна;

- удаление: предоставление физическим или умершим лицам возможности удалить личные данные из системы и приложения ИИ;

- предоставление физическим или умершим лицам возможности просматривать персональные данные, используемые системой и приложением ИИ;

- конфиденциальность при проектировании: включение соображений конфиденциальности данных в разработку систем и приложений ИИ и на протяжении всего жизненного цикла использования данных (см. [43]);

- разрешение споров: предложение механизмов для разрешения споров в связи с этими аспектами.

Защищенность и безопасность - это разные, но тесно связанные понятия (см. [44]). Этика применительно к теме защиты и безопасности, которую можно назвать предотвращением потерь, фокусируется на предполагаемых возможностях систем и приложений ИИ и их устойчивости к компрометации. Защищенность (защита) направлена на то, чтобы избежать уменьшения травмирования и ущерба здоровью людей, имуществу и окружающей среде, и часто является существенным аспектом регулирования конкретных продуктов. Безопасность направлена на снижение вероятности несанкционированного и ненадлежащего доступа к данным, активам или имуществу, поскольку ИИ может создавать новые угрозы безопасности, такие как состязательные атаки, отравление данных и кража моделей (см. [45]). Особое значение имеют системы, взаимодействующие с физическим миром, которые могут влиять на людей, сообщества или и то и другое. Эта тема связана с другими темами, которые касаются человеческого контроля над технологиями и подотчетностью, поскольку механизмы реализации этих тем также могут помочь повысить безопасность и защищенность систем и приложений ИИ. Некоторые аспекты, которые охватываются этой темой и часто являются частью подхода к ИИ, основанного на обеспечении безопасности при проектировании, следующие:

- надежность: системы и приложения ИИ, которые постоянно работают в соответствии с поставленными задачами;

- тестирование и мониторинг могут помочь минимизировать последующее неправильное использование и злоупотребление системой и приложением ИИ. Тестирование и мониторинг также помогают определить, являются ли системы надежными и спроектированными таким образом, чтобы противостоять непредвиденным событиям и состязательным атакам, которые могут нанести ущерб или способны манипулировать;

- предсказуемость: повышение предсказуемости систем и приложений ИИ обычно представляется как ключевой механизм, помогающий снизить риск компрометации систем ИИ;

- оценка и снижение рисков, связанных с безопасностью, с учетом сложности среды, в которой могут быть использованы системы и приложения ИИ (например, автономное вождение);

- обеспечение работы систем и приложений ИИ в соответствии с их назначением (робастность) во всех сценариях. Это относится, в частности, к системам непрерывного обучения.

Тема человеческого контроля технологий направлена на обеспечение того, чтобы значимые решения оставались предметом рассмотрения человеком (см. ссылки [33, с. 5], [40], [46] и [47, пункт 1]). В рамках этой темы рассмотрена важность уважения автономии пользователей, на которых влияют автоматизированные решения. Человеческий контроль может быть достигнут путем проектирования систем и приложений ИИ таким образом, чтобы те, на кого влияют автоматизированные решения, могли запросить и получить человеческий анализ этих решений. Для систем с высокой степенью риска это может также принять форму требования о наличии квалифицированного специалиста для авторизации автоматизированных решений. В этой теме рассматриваются следующие аспекты:

- разработка систем и приложений ИИ, позволяющих операторам (людям) проверять или санкционировать автоматизированные решения;

- обеспечение возможности отказаться от принятия автоматизированных решений;

- критическая оценка того, как и когда делегировать решения системам и приложениям ИИ, оценка того, как такие системы и приложения могут передать управление человеку таким образом, чтобы оно было осмысленным и понятным.

Системы и приложения ИИ могут поддерживать автономию человека и принятие им решений, как предписывает принцип уважения автономии человека. Для этого необходимо, чтобы системы и приложения ИИ способствовали созданию демократического, процветающего и справедливого общества, поддерживая самостоятельность пользователя, поощряя права и позволяя человеку осуществлять соответствующий надзор.

Социальная ответственность, связанная с вовлечением и развитием сообществ, подразумевает выявление заинтересованных сторон, на которые влияют система и приложение ИИ, а также выяснение и удовлетворение их проблем прозрачным образом. Особое внимание уделяется уязвимым и менее развитым сообществам, проживающим в тех географических зонах, в которых работают системы и приложения ИИ. Поскольку многие продукты и услуги на основе ИИ являются виртуальными и транснациональными, выявление таких сообществ может представлять собой сложную задачу. Системы ИИ могут оказывать потенциальное воздействие на жизнь всех людей во всем мире независимо от того, являются ли они прямыми потребителями услуг на основе ИИ или косвенно затронутыми заинтересованными сторонами. Поэтому организация может рассмотреть возможность не только выявления и взаимодействия с заинтересованными сторонами, но и признания (и построения) отношений с сообществом, места организации в этом сообществе и ее ответственности за социальное, политическое, экономическое и культурное развитие этого сообщества.

Еще одно соображение для организаций, стремящихся привлечь затронутые сообщества, заключается в том, чтобы включить вклад сообщества в инновационный процесс при создании и эксплуатации товаров и услуг на основе ИИ. Это особенно актуально, когда внедрение ИИ нарушает существующие модели жизни сообщества, его сплоченность и возможности трудоустройства. В частности, воздействие на занятость посредством автоматизации на основе ИИ поднимает вопросы образования и культуры сообщества, создания рабочих мест, развития навыков и инвестиций в социальные и медицинские меры сообщества для смягчения негативных последствий этого воздействия. Организации могут привлекать сообщества различными способами, например: в рамках интервью, фокус-групп, семинаров, конференций, анкетирования, опросов, исследований и консультативных советов заинтересованных сторон. Более подробная информация приведена в ГОСТ Р ИСО 26000 (см. также [34], [41]). Значимость консультаций с заинтересованными сторонами, что для некоторых проектов может потребовать участия сообщества и, возможно, общественного мнения, отражена в [35].

Тема проектирования, ориентированного на человека, в ГОСТ Р ИСО 9241-210 направлена на обеспечение учета интересов людей, использующих систему и приложение ИИ, а также других заинтересованных групп, включая тех, на кого может повлиять (прямо или косвенно) их применение. Обеспечение того, что система ИИ и приложение ориентированы на человека [34], включает в себя следующее:

a) проектирование основано на четком понимании пользователей, задач и среды;

b) пользователи вовлекаются в процесс проектирования и разработки;

c) проектирование осуществляется и дорабатывается на основе оценки, ориентированной на пользователя;

d) процесс является итеративным (т.е. до получения нужного результата);

e) проектирование охватывает и учитывает весь пользовательский опыт;

f) команда разработчиков включает в себя представителей различных дисциплин.

Одно из предложений о том, как сделать проектирование, удовлетворяющее этим целям, приведено в [41].

Верховенство закона требует, в частности, чтобы даже влиятельные организации и системы соблюдали закон. Соблюдение правовых требований, включая обращение в суд в случае необходимости в отношении решений, вынесенных системами и приложениями ИИ, является общепризнанным аспектом информационно-коммуникационных технологий (ИКТ), управления данными и управления рисками. При этом важно соблюдение верховенства закона на протяжении всего жизненного цикла системы ИИ (см. [47]), это включает в себя отказ от незаконного использования данных человека (см. [46]). Ответственному отношению к верховенству закона может способствовать просветительская и разъяснительная работа о возможностях неправомерного использования ИИ (см. [20]) <1>.

--------------------------------

<1> Внесено на основании предложений экспертов для учета в настоящем стандарте национальных интересов и защиты пользователей и населения.

Согласно ГОСТ Р ИСО 26000 следование верховенству закона в каждой юрисдикции, в пределах которой компания ведет свою деятельность, может включать:

- соблюдение законов и нормативных актов, даже если они не применяются в данной юрисдикции;

- соблюдение всех юридических обязательств на протяжении всей цепочки создания стоимости ИИ и периодический анализ соответствия деятельности и взаимоотношений заинтересованных сторон;

- обеспечение того, чтобы цели, для которых разрабатывают и используют ИИ, были законными и конкретно обозначенными.

ГОСТ Р ИСО 26000 содержит рекомендацию о том, что в ситуациях или в юрисдикциях, где верховенство закона не обеспечивает надежных гарантий социального и экологического воздействия, организации могут стремиться соблюдать международные нормы поведения и избегать сотрудничества с организациями, которые не соблюдают такие нормы. Кроме того, в ГОСТ Р ИСО 26000 рекомендовано организациям пересмотреть характер своей деятельности в юрисдикциях, где законодательство или его применение отклоняется от международных норм до такой степени, что это может иметь значительные последствия. IEEE EAD предлагает заинтересованным сторонам принять участие в создании новых норм, связанных с системами ИИ (см. [20]).

Организация, занимающаяся производством продукции или оказанием услуг, может взять на себя обязательство минимизировать воздействие на окружающую среду, здоровье и благополучие заинтересованных сторон и влияние на общество в целом (см. [48]). Организация может взять на себя обязательство существенно сократить выбросы парниковых газов, ограничить повышение средней мировой температуры (см. [49]), соблюдать цели в области устойчивого развития Организации Объединенных Наций, такие как борьба с изменением климата и его последствиями, обязательство обеспечить чистую воду, санитарные нормы, доступную и чистую энергию, ответственное потребление и производство - как для жизни в водной среде, так и для жизни на суше (см. [26]). Одной из дилемм устойчивости, стоящих перед технологиями, требующими больших объемов данных и вычислений, такими как ИИ, является постоянно растущая потребность в энергоресурсах, поскольку большие массивы данных и алгоритмы требуют потребления еще большего количества вычислительных мощностей. Эта потребность возрастает даже в тех условиях, когда глобальные цели в области устойчивого развития призывают к повышению энергоэффективности и снижению потребления невозобновляемых ресурсов. Поэтому следует предоставлять заинтересованным сторонам прозрачную информацию о потреблении энергии, изменении климата и смягчении негативных последствий во всей цепочке создания стоимости услуг на основе ИИ, чтобы заинтересованные стороны могли принимать рациональные решения. Организация также может использовать системы и приложения ИИ для повышения устойчивости и управления воздействием на окружающую среду и изменением климата, используя подход, основанный на жизненном цикле, направленный на сокращение отходов, повторное использование продуктов и компонентов, а также на переработку материалов. В качестве примеров можно привести оптимизацию энергетических сетей, точное сельское хозяйство, устойчивые цепочки поставок, мониторинг климата и прогнозирование экологических катастроф.

Практика в сфере труда рассмотрена в ГОСТ Р ИСО 26000. Кроме того, Международная организация труда и трехстороннее агентство ООН объединяют правительства, работодателей и работников для установления трудовых стандартов, разработки политики и программ, которые принимаются на основе консенсуса, для продвижения достойного труда. Особый интерес представляют основополагающие конвенции, охватывающие то, что считается основными правами в сфере труда (см. [50]):

- свобода объединений и ассоциаций и эффективное признание права на ведение коллективных переговоров;

- ликвидация любого принудительного или обязательного труда;

- эффективное упразднение детского труда и соблюдение законодательства о минимальном рабочем возрасте;

- равное вознаграждение и ликвидация дискриминации.

Потенциальные аспекты относительно того значения, которое имеет ИИ в трудовых отношениях, включают:

- обеспечение понимания правил, касающихся занятости, трудовых отношений и вовлечения людей в принятие решений, требующих эффективного человеческого контроля и сочувствия [например, использование ИИ в управлении работниками (включая работников на временных должностях и с частичной занятостью, вакансии заполняются независимыми подрядчиками и фрилансерами), для предотвращения дискриминации между работниками, непропорционального и неоправданного контроля и наблюдения на рабочем месте, особенно при удаленной работе, защиты частной жизни работников, устранения всех форм принудительного или обязательного труда и эффективного упразднения детского труда];

- обеспечение справедливого вознаграждения, условий труда, охраны здоровья и безопасности, защиты работников и решения других проблем (например, работники, привлекаемые на основе краудсорсинга и аутсорсинга, готовящие данные для обучения, или модераторы контента, подвергающиеся воздействию контента социальных сетей с использованием ИИ);

- вопросы развития и подготовки кадров, особенно в условиях, когда внедрение ИИ устраняет роль работника, рабочие места или существенно меняет их характер (например, переподготовка);

- прогнозирование последствий внедрения ИИ и переквалификация рабочей силы;

- гарантии того, что уважение к человеческой жизни и человеческому достоинству сохраняется и что ИИ и системы обработки больших данных не оказывают негативного влияния на деятельность, свободу и достоинство человека;

- установление правил ответственности предприятий и разработчиков;

- задачу сделать ИИ предметом общественного диалога и коллективных переговоров в соответствии с правилами и практикой, действующими в каждой организации.

Данный раздел содержит неисчерпывающий перечень практик для создания и использования этичного и общественно приемлемого ИИ. Такие аспекты и подходы, как правило, являются частью более широкого процесса управления организацией.

Помимо создания первоначального набора принципов, соответствующих ценностям организации, интерес может представлять также создание процесса для оценки и обновления этих принципов на регулярной основе. Ключевые темы, связанные с ИИ, и соответствующие принципы описаны в 6.2.

Принципы могут быть более действенными, если они транслируются на внешний уровень и изложены в виде четких, однозначных предложений о том, что организация может или не может делать. Данные предложения могут помочь организации в оценке соблюдения/несоблюдения своих принципов.

Помимо установления принципов ИИ организация может также перечислить области применения, в которых невозможны разработка или внедрение ИИ. Принципы ИИ, как правило, утилитарны, что означает, что если выгоды достаточно существенны, то они могут перевесить потенциальный вред. Следовательно, решение о сферах применения, которыми организация не может заниматься, принимается на основе деонтологии, определяющей области применения, которыми не допускается. Такой список может быть основан на широко признанных правах человека и может отражать и проецировать приверженность организации определенным базовым ценностям.

Ключевые темы, связанные с ИИ, и соответствующие принципы, описанные в 6.2, носят высокоуровневый характер и требуют тщательного и детального рассмотрения при их применении к конкретным проектам. Надежный, повторяемый и заслуживающий доверия процесс рецензирования может включать несколько элементов:

- орган экспертизы, охватывающий диапазон перспектив, дисциплин и опыта, необходимый для проведения тщательной экспертизы. В его состав может входить одна группа, которая занимается повседневными операциями и первоначальными оценками, и вторая, которая занимается наиболее сложными и трудными вопросами, включая решения, затрагивающие множество продуктов и технологий, или вопросы, в которых существует конфликт между несколькими этическими темами и принципами. Наличие третьей, специальной, группы по анализу может помочь обеспечить такие условия, при которых опыт организации в области этики ИИ со временем расширялся и люди во всей организации могли использовать такой опыт;

- процедура передачи проектов на экспертизу, а также осведомленность об этой процедуре в организации;

- руководящие принципы, рамки и протоколы, позволяющие органу экспертизы последовательно и надежно оценивать проект и выносить решение о его соответствии принципам ИИ, другим этическим соображениям или и тому и другому;

- группы или отдельные лица, которые могут заниматься разработкой технических стратегий смягчения этических проблем, выявленных органом экспертизы, например: связанных с несправедливой предвзятостью, объяснимостью и человеческим контролем;

- процедуры регистрации прецедентного права и обеспечения того, чтобы созданные прецеденты могли быть перенесены на соответствующие дела;

- последующие рабочие процессы для обеспечения адекватного выполнения рекомендованных или требуемых мер по смягчению последствий;

- регулярный мониторинг для обеспечения того, чтобы система и приложение ИИ работали так, как задумано, на протяжении всего жизненного цикла. Это может включать мониторинг дрейфа концепции и распределения, периодическое переобучение для обеспечения справедливости модели, обновление языковых моделей для отражения изменений в лингвистической практике, а также оценку неправильного использования или неиспользования, которое может произойти со временем, например из-за предвзятости автоматизации.

Эти элементы, в зависимости от размера и характера организации, могут формироваться при участии как внутренних, так и внешних заинтересованных сторон, причем последние включают внешние агентства, консультативные советы и приглашенных экспертов в данной области. Рассмотрение проекта может также включать использование формального метода оценки рисков, такого как метод оценки рисков в ГОСТ Р ИСО 31000 (см. также [14]).

Обучение в области этики по вопросам, связанным с принципами и организационными ценностями для всех членов организации, является ключом к созданию культуры этичной разработки, внедрения и использования ИИ. В ходе обучения можно акцентировать внимание на том, почему важна этическая разработка ИИ, как привести в соответствие принципы и ценности, как внедрить этический процесс принятия решений в жизненном цикле продукта, как применять этические рамки, методологии и оценки воздействия, а также как процессы и структуры управления связаны с работой над принципами, которыми руководствуется организация. Обучение также может раскрыть этические проблемы, возникающие при разработке и внедрении ИИ, углубляясь в вопросы обоснования для разработки систем и приложений ИИ с точки зрения бизнеса и подробно разбирая, какими ценностями следует руководствоваться при внедрении новой системы. Обучение также может быть адаптировано с учетом конкретных ролей с акцентом на то, как разные заинтересованные стороны могут выявить проблемы в зависимости от их опыта, сферы ответственности и положения в жизненном цикле. Наконец, обучение может включать схемы цифровой грамотности в области ИИ для конкретных заинтересованных сторон.

Первым шагом при принятии решения является признание наличия этических проблем в конкретной ситуации. Это требует от лиц, принимающих решения, выйти за рамки рассмотрения бизнес-обоснований (что законно, что эффективно и т.д.) для разработки, внедрения и реализации ИИ и углубиться в этические вопросы (что приемлемо для человечества, что соответствует ожиданиям и уважает права пользователя и т.д.). Обучение этике ИИ, упомянутое в 7.1.5, может помочь лицам, принимающим решения, развить этические навыки идентификации (выявления) проблемы. Выявление этических проблем может происходить на всех этапах цепочки создания стоимости и жизненного цикла ИИ. Это может происходить на стадии идеи ("можем ли мы создать эту систему ИИ и приложение?"), на стадии разработки ("какие данные мы можем использовать?", "как мы можем снизить потенциальные риски?"), на стадии внедрения ("как система ИИ и приложение могут быть использованы не по назначению?") и после запуска ("как используется система ИИ и приложение?").

Лицам, принимающим решения, необходимо иметь доступ к максимально возможному количеству фактов и информации. Сбор дополнительной информации для принятия решений, связанных с этикой ИИ, может включать в себя обращение к заинтересованным сторонам (менеджерам продукта, техническим руководителям, исследователям и т.д.) за дополнительной документацией и информацией. Кроме того, заинтересованными сторонами могут быть также те, кто не входит в непосредственную команду, разрабатывающую технологию, а дополнительные внутренние и внешние заинтересованные стороны (представители демографической группы, на которую может повлиять технология, неправительственные организации, обладающие опытом в этой области, и т.д.).

Заинтересованные стороны, скорее всего, предложат различные действия и сосредоточатся на различных проблемах, например деловых, юридических и этических. Лица, принимающие решения, могут перечислить и рассмотреть как предлагаемые действия, так и список проблем, которые они используют для оценки каждого действия. Для целей этики в области ИИ одним из решаемых вопросов должно быть соблюдение принципов ИИ, которые организация решила принять.

После принятия решения лицо или орган, принимающее(ий) решение (те, которые несут ответственность за принятие решения), может четко сформировать и изложить все рекомендации и меры по смягчению последствий, которые являются частью решения. Решение может определять ответственность за его реализацию, устанавливать четкие роли подотчетности, включая постоянный мониторинг решения (кто отслеживает результаты решения, насколько эффективно используется обратная связь с внешними заинтересованными сторонами или как информация доводится до тех, кого это касается, и т.д.). Решения могут быть задокументированы с надлежащим объяснением и обоснованием. Соответствующая документация помогает зафиксировать и каталогизировать созданные прецеденты и описать меры по смягчению последствий, чтобы повысить эффективность принятия решений в будущем и установить четкие исходные данные для аналогичных случаев в будущем.

В конце процесса может быть полезным проанализировать проделанное, чтобы понять, как обнаружить этические проблемы на более ранней стадии, и можно ли повторно использовать какие-либо из смягчающих действий в более широком контексте. Такой анализ может помочь организации извлечь уроки и усовершенствовать свои процессы, особенно если организация реагирует на этическую проблему, которая возникла внезапно и не была замечена в рамках действующих процессов выявления и анализа.

Настоящий стандарт содержит неполный перечень предложений и мер по созданию и использованию этичного и общественно приемлемого ИИ, так как их полный перечень обычно является частью более широкого процесса управления организацией.

Этические вопросы, касающиеся систем и приложений ИИ, часто требуют осознания контекста (см. 6.2). Иными словами, наличие, характер, степень и серьезность этических проблем, связанных с системой и приложением ИИ, часто зависят от конкретного социально-политического, экономического, физического контекста их разработки, внедрения, аудитории или использования. Поэтому этичное использование систем и приложений ИИ связано с достаточно глубоким осознанием и пониманием соответствующего контекста, поскольку то, что может быть этически и общественно приемлемым в одном контексте (сектор, географический регион, предполагаемая цель, демографическая аудитория, политическая или физическая среда и т.д.), неприемлемо в другом контексте.

Предложения, изложенные в настоящем стандарте, могут быть дополнены с учетом типа системы ИИ и приложения, дизайна (конструкции) и предполагаемых функций системы или приложения ИИ. Кроме того, неполный перечень примеров использования приведен в приложении B.

Данный раздел содержит неполный перечень предложений и мер по созданию и использованию этичных и общественно приемлемых систем и приложений ИИ, так как их полный перечень обычно является частью более широкого процесса управления организацией.

Международные права человека включают следующие вопросы:

- полностью ли соблюдаются международные права человека применительно к вопросам, связанным с системами и приложениями ИИ?

- существуют ли какие-либо процессы, позволяющие конечным пользователям или другим лицам, прямо или косвенно затронутым системой ИИ, сообщать о потенциальных проблемах с правами человека, а организации - реагировать и принимать во внимание такие отзывы для усовершенствования системы ИИ?

- существуют ли процессы для оценки случаев краткосрочного или долгосрочного воздействия на автономию и самостоятельность субъекта данных и информирования об этом заинтересованных сторон?

- существуют ли процессы, обеспечивающие заинтересованным сторонам право на возмещение, помощь, средство правовой защиты или способ получения помощи или средства правовой защиты?

Подотчетность включает в себя рассмотрение соответствующих процессов в отношении следующего:

- существует ли сквозное отслеживание решений, принятых в отношении системы ИИ?

- можно ли отключить систему ИИ и приложение в случае отклонения от запланированных результатов?

- можно ли обнаружить или предсказать злоупотребление, неправильное использование или неиспользование системы ИИ и приложения?

- существуют ли стратегии и процессы тестирования и мониторинга, чтобы избежать создания или усиления смещенности (предвзятости) в данных и алгоритмах?

- проверяются ли внедренные алгоритмы на предмет их надежности, корректности и воспроизводимости и контролируются ли меры надежности и корректности, а также условия воспроизводимости?

- как и где могут быть задокументированы методология тестирования, результаты и внесенные на основе результатов изменения?

- существуют ли четко определенные обязанности и ответственность для заинтересованных сторон, участвующих в разработке или внедрении систем и приложений ИИ?

- является ли результат работы систем и приложений ИИ прозрачным и объяснимым?

- соответствует ли применение систем и приложений ИИ действующим нормам и стандартам?

Соображения в отношении объективности и недискриминации включают следующее:

- какие действия предприняты для выявления и смягчения предвзятости в наборе данных, используемом для обучения модели?

- может ли источник данных содержать исторические предубеждения, которые рискуют закрепиться?

- являются ли данные для обучения репрезентативными для населения, которое подвергается воздействию?

- существуют ли четко прописанные механизмы отчетности о том, как поднимать вопросы, касающиеся различных исключений, особенно со стороны пользователей системы и приложения ИИ или других лиц, на которых они повлияли?

--------------------------------

<1> Внесено на основании предложений экспертов для учета в настоящем стандарте национальных интересов и защиты пользователей.

Соображения прозрачности и объяснимости включают следующее:

- ясно ли, кто или что может получить пользу или вред от предполагаемого функционального назначения системы ИИ?

- доведены ли доступным и понятным образом до сведения предполагаемых пользователей и людей, на которых потенциально может повлиять система, потенциальные или предполагаемые риски, а также проинформированы ли они о характере системы ИИ?

- имеются ли функции отслеживания (например, протоколирование действий) системы ИИ, чтобы сделать ее проверяемой, особенно в критических ситуациях?

- существует ли стратегия отчетности и коммуникации с заинтересованными сторонами в отношении использования, сбора и поддержания учебных наборов данных?

- существует ли полноценная, разработанная от начала и до конца стратегия отчетности и коммуникации в отношении сбора, обслуживания и использования данных?

- существует ли стратегия отчетности и коммуникации заинтересованных сторон в отношении того, как собираются, используются и поддерживаются любые данные, накопленные внедренной системой?

- предусматривает ли стратегия отчетности и коммуникации связь с заинтересованными сторонами, включая руководство, государственные регулирующие органы, гражданское общество, журналистов и другие наблюдательные органы?

- проводились ли консультации с работниками и представителями работников о характере и масштабах системы ИИ?

- сообщает ли организация о назначении системы ИИ и приложений о процессах, связанных с потоком данных, заинтересованным сторонам и другим лицам, информацию о которых собирают, выводят, используют, хранят или обрабатывают в определенной комбинации (например, делается ли это с помощью уведомления, размещенного рядом с местом внедрения, или QR-кода со ссылкой на политику)?

- доводятся ли до всех заинтересованных сторон выгоды, риски, связанные с системой ИИ, и то, что выгоды перевешивают потенциальные риски?

- определены ли потенциальные источники изменений (вариативности) в принятии решений, которые происходят во время прогнозирования и можно ли измерить эту вариативность?

- при внедрении системы ИИ, созданной третьей стороной, какого рода документация, обучение и поддержка требуются третьей стороне для предотвращения неправильного использования, неиспользования или злоупотребления?

- существуют ли процессы оценки воздействия разработки и внедрения системы ИИ на окружающую среду (например, электроэнергия, вода, землепользование)?

Вопросы профессиональной ответственности включают следующее:

- подкреплены ли корреляции, на основе которых система ИИ делает прогнозы, решения и рекомендации, соответствующими научными исследованиями?

- существуют ли меры по обеспечению безопасности, целостности, достоверности и точности данных, используемых системой ИИ и приложением?

- помимо точности данных какое тестирование точности системы необходимо провести до ее внедрения в среде, чтобы контролировать установленные и обоснованно прогнозируемые риски?

- действуют ли процессы, учитывающие известные научные недостатки и факторы, связанные с внедрением в проблемных условиях, которые могут способствовать неблагоприятным (вредным) результатам?

- соответствует ли технология цели, особенно для внедрения в конкретном контексте?

- являются ли модели, предназначенные для внедрения, достаточно надежными и адекватного качества, были ли они построены на основе всеобъемлющих (комплексных) сценариев?

Продвижение человеческих ценностей включает следующие вопросы:

- предоставляется ли информация в случае возможного вреда для человека в результате прогнозов, рекомендаций или решений систем и приложений ИИ?

- проводились ли консультации с экспертами, представителями затрагиваемых групп (включая работников) или другими заинтересованными сторонами при определении того, является ли внедренная система и приложение ИИ законной (легитимной) в глазах лиц, которые в наибольшей степени будут подвержены воздействию?

- если это применимо, имеется ли описание заинтересованных сторон в приложении ИИ?

- существуют ли процессы для раскрытия установленных уязвимостей, рисков или предвзятости и существует ли процесс для информирования о них?

- существуют ли процессы оценки влияния систем и приложений ИИ на занятость и дальнейшую трудовую деятельность и сообщается ли о таких случаях заинтересованным сторонам?

Соображения конфиденциальности включают следующее:

- имеются ли механизмы коммуникации, указывающие, где могут быть подняты вопросы, связанные с конфиденциальностью?

- существуют ли процессы, позволяющие конечным пользователям или другим заинтересованным сторонам, прямо или косвенно затронутым системой ИИ, сообщать о проблемах, связанных с конфиденциальностью?

- существуют ли процессы, позволяющие заинтересованным сторонам реагировать на проблемы, связанные с конфиденциальностью, и принимать во внимание такие отзывы от пользователей (когда это оправдано) для усовершенствования системы ИИ?

- если пользователь не предоставляет все данные, необходимые для покупки, аренды или иного доступа к услуге или продукту, отказывают ли ему полностью в предоставлении услуг или продуктов или предлагают альтернативные варианты?

- насколько тщательно оценены риски, связанные со сбором и хранением персональных данных?

- существуют ли внутренние механизмы управления данными, включающие отслеживание того, как получены персональные данные?

- соблюдается ли внутреннее управление данными и обработка персональных данных, можно ли их отследить или повторно идентифицировать?

- было ли надлежащим образом получено информированное согласие?

- может ли пользователь или другая заинтересованная сторона полностью реализовать права на собственные персональные идентифицируемые данные?

- проинформирован ли субъект данных о том, как дается действительное согласие и в случае необходимости или по требованию субъекта данных как такое согласие может быть отозвано?

- проведена ли оценка, рассмотрение и реализация мер, которые касаются рассмотрения и определения конфиденциальности в контексте (сектор, географическая область и т.д.), в котором разработана и внедрена система ИИ?

- какие потоки данных и возможности проверки предоставлены для обеспечения того, чтобы собранная личная информация использовалась по назначению?

- имеются ли функции для поддержки возможности субъектов данных проверять наличие, актуальность и точность их личной информации?

--------------------------------

<1> Внесено на основе предложений экспертов для учета в настоящем стандарте национальных интересов и защиты пользователей.

Вопросы защищенности и безопасности включают следующее:

- имеются ли механизмы коммуникации для обсуждения вопросов, связанных с защитой и безопасностью?

- существуют ли какие-либо известные последствия для защиты и безопасности при использовании системы и приложения ИИ по назначению или в случае невыполнения предусмотренных функций (т.е. предоставление недостоверных результатов, недоступность или использование не по назначению либо для выполнения задачи, для которой она не протестирована)?

- какие технические меры могут быть приняты для защиты собранных данных от потери и несанкционированного доступа, уничтожения, использования, модификации и раскрытия?

Вопросы, связанные с контролем технологии ИИ человеком, включают следующее:

- требует ли система ИИ присутствия квалифицированного человека для минимизации риска?

- существуют ли меры по предотвращению злоупотреблений, неправильного использования или неиспользования системы ИИ?

- существует ли документация, определяющая контексты и тех лиц, для которых технология должна (и не должна) работать оптимально, учитывая состав набора данных и другие ограничения?

- существуют ли соответствующие меры для обеспечения того, чтобы контроль над системой ИИ мог быть безопасно передан человеку-оператору и осуществляться им в случае необходимости?

Вопросы вовлечения, участия и развития сообщества включают следующее:

- когда системы и приложения ИИ используют для управления государственными пособиями и здравоохранением, существует ли достаточный надзор при определении соответствия требованиям и надзор при распределении государственных пособий?

- возможна ли и доступна ли помощь человека конечным пользователям, взаимодействующим с системами и приложениями ИИ?

- является ли вся соответствующая информация о системах и приложениях ИИ, которые используют в рамках оказания государственных услуг, открытой и доступной?

Вопросы проектирования, ориентированного на человека, включают следующее:

- признает ли организация, что люди различаются по своим способностям и потребностям, использует ли организация эргономические и социальные данные о природе (сущности) и степени этих различий?

- является ли удобство использования и доступность стратегическими целями бизнеса в организации?

- применяет ли организация комплексный системный подход?

- являются ли здоровье, безопасность и благополучие приоритетами бизнеса?

- ценит ли организация своих сотрудников и предпринимает ли шаги, чтобы сделать работу сотрудников осмысленной и содержательной?

- является ли организация открытой и заслуживающей доверия?

- действует ли организация социально ответственно?

Уважение верховенства закона (см. [51]) включает следующие вопросы:

- обладают ли судебные органы достаточным уровнем понимания систем и приложений ИИ для обеспечения уважения верховенства закона?

- обеспечивается ли в отношении систем и приложений ИИ надлежащее и тщательное судебное разбирательство, а также справедливое и равное обращение в соответствии с верховенством закона?

- выступает ли судебная система в качестве гаранта обращения в случае нарушения международных прав человека или свобод, которые вызваны решениями систем и приложений ИИ?

- может ли человек, в отношении которого принято алгоритмическое решение, юридически изучить и оспорить его обоснованность?

- гарантирует ли верховенство закона точность обработки данных во всей цепочке создания стоимости ИИ?

Уважение международных норм поведения включает следующие вопросы (см. [51]):

- соблюдаются ли международные нормы поведения при использовании или поощрении (продвижении) применения систем и приложений ИИ?

- защищены ли законные интересы (например, безопасность), права (в частности, права интеллектуальной собственности) или соответствующие ценности заинтересованных сторон (см. [41])?

Вопросы экологической устойчивости в отношении систем и приложений ИИ включают в себя следующее:

- проведена ли оценка углеродного следа с учетом преимуществ, снижения воздействия и дополнительного потребления?

- существует ли политика использования возобновляемых источников энергии и избежание или использование теплоотдачи, особенно в центрах обработки данных?

- проводились ли исследования для оценки и максимального сокращения выбросов загрязняющих веществ в воздух, воду и почву (где это уместно)?

- существует ли практика "зеленых" закупок для оценки поставщиков товаров и услуг с точки зрения их воздействия на окружающую среду?

- существует ли подход к жизненному циклу (включая утилизацию) для сокращения отходов, повторного использования продуктов или компонентов и вторичной переработки материалов?

Вопросы практик, применяемых в сфере труда, включают следующее:

- проинформированы ли органы, отвечающие за общественный диалог в организации (независимо от их формы; профсоюзы, представители персонала, комитеты по охране труда и технике безопасности и т.д.) и проконсультированы ли они, когда это уместно, о внедрении системы и приложения ИИ?

- проинформирован ли персонал компании о внедрении системы и приложения ИИ?

- когда ИИ включает в себя наблюдение за работниками, предпринимаются ли шаги для проверки того, что наблюдение ограничено его единственной целью и не имеет несоразмерных и неоправданных последствий? Существует ли процедура сообщения о соответствующих проблемах?

- существует ли возможность дискриминационного отношения к работникам по причине применения предвзятых алгоритмов?

- приняты ли меры по предотвращению злоупотреблений в области защиты данных и конфиденциальности на рабочем месте?

- выявлено ли влияние ИИ на рабочие места, когда при необходимости требуется переквалификация работников?

- существует ли план по обеспечению грамотности в области ИИ и цифровой грамотности для пострадавших работников?

- четко ли понимаются и доводятся до сведения работников правила, касающиеся обязанностей и ответственности организации или разработчиков?

Карта консенсуса в этических подходах и подходах, основанных на правах человека в отношении принципов для ИИ (см. [52])

В международном сообществе появились и продолжают разрабатываться новые наборы принципов или тем для ИИ. В исследовании Центра Беркмана Кляйна (см. 6.1) проанализированы 36 международных документов по принципам ИИ, опубликованных в период с 2016-го по 2019-й год, на основе материалов из разных отраслей и разных географических регионов. Более поздние международные публикации сопоставимого характера, в которых также перечислены несколько подборок принципов или тем ИИ, приведены в A.2 - A.9.

Десять принципов для этичного ИИ (см. [53])

После изучения 90 организаций PWC <1> выделил десять основных принципов, которые помогут определить этичность применения ИИ. На основе работы компании как внутри организации, так и с ее клиентами в статье представлены несколько предложений о том, как реализовать эти принципы на практике. Принципами являются интерпретируемость, надежность и устойчивость, безопасность, подотчетность, выгодность, конфиденциальность, человеческое участие, законность, справедливость и безопасность.

--------------------------------

<1> PricewaterhouseCoopers (PwC) является торговой маркой PwC Business Trust. Эта информация приведена для удобства пользователей настоящего стандарта и не подразумевает одобрения или согласия со стороны ИСО или МЭК.

Незавершенность морального выбора и эволюция к полностью автономному ИИ (см. [54])

Принятие этических решений, рассматриваемое с точки зрения компьютерных, технических и естественных наук, связано исключительно со сложностью этой темы. Ученые и разработчики ИИ в основном исходят из модели машины Тьюринга, предполагая, что для решения любых задач (включая вопросы принятия этических решений) можно построить машину, способную механически вычислить определенную функцию, если эту функцию можно записать в алгоритм. Таким образом, принятие этических решений воспринимается как абстрактное понятие, влияние которого не зависит ни от конкретного физического организма, в котором происходит алгоритм, ни от того, из чего он сделан. Если на практике будет построен достаточно сложный алгоритм, то он будет демонстрировать и достаточно сложное поведение, которое можно охарактеризовать как этическое в полном смысле этого слова. Данная статья (см. [54]) отражает основной аргумент: если задача требует морального авторитета в той или иной форме, когда она выполняется человеком, то ее полная автоматизация, передача той же задачи автономным машинам, платформам и алгоритмам ИИ обязательно подразумевает передачу моральной компетенции. Вопрос о том, что включает в себя эта компетенция, предполагает проведение эмпирических исследований и переоценку чисто нормативных подходов в этике ИИ.

Этика в области ИИ и принципы (см. [55])

Хьюлетт-Паккард <2> считает ИИ мощной, преобразующей технологией, которая может усилить человеческие возможности, но также несет в себе риски. Организация инвестирует в этические принципы ИИ и соблюдает следующие этические и ответственные принципы ИИ: безопасность ИИ с поддержкой конфиденциальности, принцип ориентированности ИИ на человека, принцип инклюзивности ИИ, принцип надежности ИИ и принцип ответственного ИИ.

--------------------------------

<2> Hewlett Packard Enterprise является зарегистрированной торговой маркой данной компании и/или ее филиалов. Эта информация приведена для удобства пользователей настоящего стандарта и не подразумевает одобрения или согласия со стороны ИСО или МЭК.

Руководство по стратегиям ИИ ЮНЕСКО (см. [56])

ИИ стремительно развивается в условиях, когда устойчивое развитие является главной целью международного сообщества. ООН призвала правительства разработать национальные стратегии устойчивого развития, включающие политические меры для достижения Повестки дня в области устойчивого развития на период до 2030 г. Хотя технологии ИИ могут способствовать прорыву в достижении целей устойчивого развития, они также могут иметь непредвиденные последствия, которые усугубят неравенство и негативно повлияют на отдельных людей, общества, экономику и окружающую среду. Реализация ИИ должна быть подкреплена междисциплинарным обзором, чтобы направить ИИ в русло, обеспечивающее уважение прав человека и человеческого достоинства. Данное справочное руководство представляет собой сборник ключевых ссылок, которые могут обеспечить глобальный обзор дискуссий по этике ИИ, технических стандартов и примеров национальных стратегий. Оно включает в себя три основные главы по ИИ: этические принципы и последствия; технические стандарты и международные стратегии; национальные стратегии. В этом документе отсутствуют конкретные определения принципов этики ИИ, вместо этого предлагается ознакомиться с работой международных и национальных правительств, частных организаций, гражданского общества и ресурсов из Европы, Америки и Азии.

Рамочная структура для этичного ИИ в ООН (см. [57])

В данном документе не только сделана попытка дать определение "этический ИИ", но и рассмотрено, как такая организация, как ООН, могла бы приступить к внедрению этичного ИИ. Предлагается рассматривать этические ценности "как состоящие из различных уровней, начиная с глобального и заканчивая групповым и индивидуальным: основные этические ценности, основанные на неотъемлемых правах человека (человеческое достоинство, автономия); конституционные ценности (верховенство закона, объективность, неприкосновенность частной жизни); групповые ценности (убеждения или культурные нормы) и индивидуальные этические ценности (личные убеждения)". В нем рекомендуется, чтобы ООН разработала структуру, состоящую из этических принципов, стандартов архитектуры, методов оценки, инструментов и методологий, а также политику, регулирующую внедрение и соблюдение этой структуры, сопровождаемую образовательной программой для персонала.

Рекомендация по этике искусственного интеллекта <1> ЮНЕСКО (см. [58])

--------------------------------

<1> Внесена на основе предложений экспертов (актуализировано наименование принятой в ЮНЕСКО Рекомендации, в исходном тексте указан проект документа).

В документе проведено разграничение между ценностями и принципами этики. К ценностям относят: уважение, защита и продвижение человеческого достоинства, прав человека и основных свобод; окружающая среда и развитие экосистемы; обеспечение разнообразия и инклюзивность; жизнь в гармонии и мире. В рекомендации определены следующие этические принципы ИИ: соразмерность и непричинение вреда; безопасность и надежность; справедливость и недискриминация; устойчивость; конфиденциальность; человеческий надзор; прозрачность и объяснимость; ответственность и подотчетность; осведомленность и грамотность; управление и сотрудничество с участием многих заинтересованных сторон, адаптивное управление и сотрудничество.

Этика в искусственном интеллекте (см. [59])

Статья содержит тщательно подготовленный материал и указывает на актуальные ресурсы по данной теме. Фонд также предоставляет оценки готовности к ИИ для стран, не входящих в так называемый первый и второй мир. Последние отчеты включают Филиппины, Сальвадор, Нигерию и Мьянму. В своем анализе фонд приводит общую пятерку этических принципов: прозрачность, справедливость и честность, непричинение вреда, ответственность и конфиденциальность. Кроме того, в нем указано на то, что "ни в одном из рассмотренных документов не обсуждался ИИ в рамках опеки, воспитания, в терминах помощи, благосостояния, социальной ответственности, экологических сетей, а также достоинства или солидарности". Более того, документы в основном подготовлены в экономически развитых странах, в то время как Центральная и Южная Америка, Африка и Центральная Азия представлены незначительно и, таким образом, исключены из этического дискурса.

Директива об автоматизированном принятии решений (см. [60])

Правительство Канады все больше стремится использовать ИИ для принятия решений или помощи в принятии административных решений в целях повышения качества обслуживания. Правительство стремится делать это таким образом, чтобы это соответствовало основным принципам административного права, таким как прозрачность, подотчетность, законность и процессуальная справедливость. Технология быстро меняется, и данная директива будет продолжать развиваться, чтобы обеспечить ее актуальность. Приложение A содержит определения, в том числе определение процедурной справедливости; приложение B - четыре уровня оценки воздействия, которые варьируются от воздействия, которое является обратимым и кратковременным (уровень I), до решений, которые являются необратимыми и постоянными (уровень IV); при этом они не связаны с риском. В приложении C перечислены процедурные требования для каждого уровня воздействия: от экспертных оценок до уведомлений, размещаемых по каналам предоставления услуг, от принятия решений с участием человека до требований к разъяснениям, обучению, планированию действий в чрезвычайных ситуациях и до принятия решения о вводе системы в эксплуатацию.

Принципы политики в области ИИ, краткое содержание (см. [61])

В этом документе рассмотрен широкий круг вопросов, охватывающих ИИ, промышленную и государственную политику. Что касается ценностей и этики, документ обращает внимание на ответственность промышленного сектора в продвижении продуманной разработки и использования ИИ, что включает: ответственное проектирование и внедрение, безопасность и управляемость, надежные и репрезентативные данные, интерпретируемость и ответственность систем ИИ в связи с автономностью. Последняя тема, которая рассмотрена в нескольких других публикациях, представляет интерес.

От препятствий к масштабированию. Глобальная гонка исследований в области ИИ (см. [62])

ИИ внедряется в повседневную жизнь, бизнес, государственное управление, медицину и другие сферы. Внедрение этических принципов в приложения и процессы ИИ позволяет создавать системы, основанные на доверии. Среди обсуждаемых тем: принципы доверия и прозрачности, повседневная этика для ИИ, обоснованность ИИ, объяснимость ИИ, расширение человеческого интеллекта и владение данными.

Принципы и оси политики Чили в области ИИ (см. [63])

27 октября 2021 г. в Чили опубликована национальная политика в области ИИ, в которой рассмотрены преимущества технологии ИИ и цель позиционирования страны как лидера в области инноваций, исследований и разработок, а также демократизации технологических решений. Данная политика в области ИИ определяет четыре сквозных принципа: ИИ с упором на благосостояние людей, соблюдение прав человека и безопасность; ИИ для устойчивого развития; инклюзивный ИИ, а также глобальный и эволюционный ИИ.

Искусственный интеллект в Бразилии: бразильская стратегия ИИ (BSAI/EBIA) и билль N 21/2020 (см. [64])

В этой статье проанализирован билль N 21/2020 в палате депутатов и более подробно раскрыты некоторые существенные моменты бразильской стратегии ИИ (BSAI/EBIA). Уникальным среди статей и документов этого билля является то, что в данном документе рассмотрены ИКТ как следствие пандемии COVID19. Статья увязывает цель BSAI/EBIA "внести вклад в разработку этических принципов для развития и использования ответственного ИИ" и критику закона как обобщенного и не имеющего технической основы.

Правовая база для развития ИИ в Бразилии (см. [65])

Конгресс Бразилии принял билль, который создает правовую базу, определяющую правила использования ИИ в стране. Документ включает права пользователей систем ИИ, такие как получение информации об организации, ответственной за разработку системы ИИ, с которой они взаимодействуют, а также право на доступ к четкой и адекватной информации о критериях и процедурах, используемых системой. В нем содержатся правила, касающиеся уважения прав человека и демократических ценностей, и перечислены часто поднимаемые этические проблемы. Бразилия придерживается принципов Организации экономического сотрудничества и развития (ОЭСР) в области ИИ, ориентированных на человека, в которых приведены рекомендации в таких областях, как прозрачность и объяснимость.

Аргентина и Уругвай (см. [66])

Статья представляет собой вводный материал к стратегии ИИ в Аргентине и Уругвае и служит указателем на различные ресурсы, которые в других случаях недоступны на английском языке. Аргентинская стратегия (опубликована в 2019 г.) направлена на продвижение ИИ в частном секторе, минимизацию этических рисков и развитие талантов среди прочих целей. В аргентинском документе признается необходимость решения этических и общественных аспектов, которые возникают в связи с технологической трансформацией, одновременно с этим документ способствует ее развитию и реализации, что благоприятствует экономическому росту и социальному развитию. Предлагается применять методы ИИ, в которых антропологические, культурные и психологические аспекты могут иметь решающее значение, подчеркивается необходимость включения экспертов в этих областях в состав исследовательской группы, что позволит не только обучить специалистов различных дисциплин методам ИИ, но и разработать решения с потенциалом внедрения и применения в различных областях.

История и уроки первой стратегии ИИ в Латинской Америке. Мексика (см. [67])

В 2017 г. правительство Мексики совместно с авторами, представляющими гражданское общество, частный сектор, научные круги и сферу международного сотрудничества, решили разработать первую стратегию ИИ для страны в частности и Латинской Америки в целом. Она направлена на поиск ответов на основные вопросы, связанные с ИИ, включая вопрос относительно того, как юрисдикции будут решать этические вопросы, связанные с подотчетностью, открытостью и прозрачностью алгоритмов. В краткой аналитической справке содержится отчет руководителей инициативы, предложенной правительственными органами и представителями гражданского общества, а также рекомендации для правительств других стран, стремящихся разработать стратегии ИИ в будущем.

Определение этических норм в ИИ требует участия африканцев (см. [68])

В статье "Применение принципа объяснимости к исследованиям ИИ в Африке: должны ли мы это делать?" (см. [68]) отмечается, что "учитывая, что ценности в разных культурах различны, дополнительной этической проблемой является обеспечение того, чтобы эти системы ИИ не разрабатывались в соответствии с неким неоспоримым, но тем не менее спорным предположением об универсальных нормах, а были бы на самом деле совместимы с теми обществами, в которых они действуют. Это особенно актуально для исследований и внедрения ИИ в Африке - на континенте, где системы ИИ используются и будут использоваться, но также и на континенте с историей навязанных внешних ценностей". Объяснимость ИИ может помочь "внести вклад в ответственное и продуманное развитие ИИ, которое учитывает интересы и ценности Африки".

Главные проблемы ИИ в Африке: вычисления (см. [69])

Статья посвящена основным проблемам доступа к вычислительным ресурсам для ИИ в Африке. Разные представители сообщества лидеров ИИ из Ганы, Нигерии, Кении, Танзании, Марокко и других государств Африки рассказали о нюансах в своих странах и предложили собственные решения. Ключевыми задачами, которые необходимо решить, прежде чем станет возможным практическое обсуждение этики ИИ, являются: низкий доступ к графическим процессорам, проблемы с объемом памяти, отсутствие понимания того, какой графический процессор выбрать для достижения желаемой цели.

Африка, искусственный интеллект и этика (см. [70])

Ресурс представляет собой стенограмму подкаста Совета Карнеги. Основные барьеры на пути внедрения ИИ и обсуждения вопросов этики касаются следующих вопросов: неспособность большинства ИИ работать с африканскими языками (как письменный, так и разговорный); подотчетность организаций с иностранным гражданством, работающих в Африке; защита неопытных потребителей платформ социальных сетей, работающих под управлением алгоритмов с использованием токсичного контента; культурные нюансы африканских стран; доступ к инструментам крупных компаний, которые могут быть использованы для местного развития; доверие к технологиям; риск административной универсальности концепции ИИ для всех африканских стран. В статье обсуждается, как разговоры на общинных собраниях расшифровываются с помощью естественного языка и включаются в юридический и законодательный процессы Ботсваны, обеспечивая тем самым значительную социальную интеграцию.

На пути к этике ИИ в Африке: норма образования (см. [71])

Широкомасштабный обзор ресурсов авторами африканского континента является отправной точкой для всестороннего исследования ИИ и этики ИИ в Африке. В частности, в нем обсуждаются уроки Ubuntu в Африке и далее указывается, что "развитие ИИ должно соответствовать африканским ценностям о человеке. Таким ценностям, которые ставят во главу угла человеческие отношения, а не индивидуализм. К сожалению, рациональный взгляд на людей всегда был отмечен противоречиями, исключениями и неравенством. Развитие ИИ на основе данных, полученных в результате такого взгляда, будет способствовать усилению уже существующего неравенства".

Главные вызовы ИИ в Африке: этика (см. [72])

Вопросы, рассматриваемые как имеющие существенное значение для африканских сообществ: необъективность из-за недостаточной представленности; потеря рабочих мест; применение ИИ в широком смысле; как и чьи жизни должен улучшить ИИ; какие действия должен разрешить ИИ; открытый доступ к данным, особенно к африканским данным. Помимо представления этики ИИ в африканской среде статья привлекает внимание к работе Лакуна Фанд, который предоставляет финансирование для сбора данных со стороны малообеспеченного населения в области сельского хозяйства, здравоохранения и языка, чтобы преодолеть фундаментальные барьеры для достижения объективных результатов.

Предложение по регулированию европейского подхода к искусственному интеллекту. Европейская комиссия (см. [73])

Данное предложение по регулированию направлено на предоставление разработчикам, специалистам по внедрению и пользователям ИИ четких требований и обязательств в отношении конкретных видов использования ИИ и в то же время на снижение административного и финансового бремени для бизнеса, в частности для малых и средних предприятий.

Группа экспертов высокого уровня по искусственному интеллекту. Оценочный список для заслуживающего доверия искусственного интеллекта (ALTAI) для самооценки (см. [46])

Документ содержит окончательный список оценок для надежного ИИ (ALTAI), представленный экспертной группой высокого уровня по ИИ (AL HELG), созданной Европейской комиссией, чтобы помочь оценить, соответствует ли система ИИ, которая разрабатывается, развертывается, приобретается или используется, следующим семи требованиям: человеческое управление и надзор, техническая надежность и защищенность, конфиденциальность и управление данными, прозрачность, разнообразие, недискриминация и объективность, социальное и экологическое благополучие и подотчетность.

Решение этических проблем в области ИИ путем кодификации (см. [74])

В публикации изложено несколько подходов, основанных на рассмотренных материалах, которые могут быть использованы для кодификации этических задач при практическом применении систем ИИ. В первой части публикации основное внимание уделено двум группам вопросов, которые считают значимыми для практического применения систем ИИ, в то время как во второй части рассмотрены некоторые современные дискуссии по этике ИИ, общепринятые этические принципы, международное регулирование для достижения общих интересов в развитии ИИ, а также смежные вопросы, например вопросы этики ИИ, имеющие важное значение. В третьей и четвертой частях изложены практические подходы, используемые профессиональными сообществами для регулирования этических вопросов.

Резолюция с рекомендациями Комиссии по режиму гражданской ответственности для искусственного интеллекта. Европейский парламент (см. [75])

Предлагается создать ориентированный на будущее и единый подход, устанавливающий стандарты для граждан и бизнеса с целью обеспечения последовательности прав и правовой определенности, тем самым стимулируя цифровые инновации и обеспечивая высокий уровень защиты прав граждан и потребителей путем гармонизации режимов ответственности для систем ИИ.

Субъекты данных, цифровое наблюдение, ИИ и будущее в сфере труда. Европейский парламент (см. [76])

В докладе представлен глубокий обзор социальных, политических и экономических вопросов, связанных с выявлением так называемого "нового наблюдения за рабочими местами". В докладе оценивается ряд технологий, которые внедряются для мониторинга, отслеживания и в конечном счете для наблюдения за работниками, и рассматриваются значимые изменения, которые они несут в нескольких сферах. В отчете изложен ряд принципов, касающихся права на частную жизнь и защиты от сбора и использования данных о работниках. В докладе изложены некоторые противоречия между принципами.

Отчет фокус-группы. Дорожная карта по ИИ (см. [77])

Дорожная карта содержит обзор деятельности по стандартизации в IEEE, ETSI, ИСО/МЭК, ITU-T и CEN-CENELEC (подраздел 1.3 и приложение A). Фокус-группа определила 13 тем, среди которых следующие семь рассмотрены для европейской стандартизации (раздел 3): подотчетность, качество, данные для ИИ, безопасность и конфиденциальность, этика, проектирование систем ИИ и защищенность систем ИИ.

Новые инициативы Китая по управлению ИИ (см. [78])

Мета-обзор китайского управления ИИ содержит введение и ссылки на политику и документы, рассматривающие этику и управление со стороны администрации киберпространства Китая (CAC), китайской академии информационно-коммуникационных технологий и Министерства науки и технологий. В статье отмечается, что CAC является наиболее компетентной организацией, а ее проект 30 правил регулирования рекомендательных алгоритмов в Интернете открывает новые возможности на международном уровне в таких областях, как объяснимость и возмещение вреда. В статье утверждается, что эти правила могут открыть новые возможности на международном уровне.

Что нужно знать о китайских правилах в области этики ИИ (см. [79])

В статье приводится вводная информация о предлагаемых Китаем правилах управления и регулирования "Спецификации в области этики ИИ нового поколения" с западной точки зрения. Целью является интеграция этики и морали во весь жизненный цикл ИИ: продвижение ответственности, объективности, гармонии и безопасности; предотвращение таких проблем, как предрассудки, дискриминация и утечка конфиденциальности/информации. Детализированные положения распространены на физических и юридических лиц, а также на другие соответствующие организации, занимающиеся деятельностью, связанной с управлением, исследованиями и разработками, поставками и использованием ИИ. Указаны шесть основных этических норм: повышение благосостояния человека, продвижение ответственности и объективности, защита конфиденциальности и безопасности, обеспечение подконтрольности и достоверности и повышение этической грамотности. Кроме того, определены цели управления проектами, связанными с ИИ, в том числе: содействие гибкому управлению и устойчивости развития, активная интеграция этических стандартов в процессы управления, обеспечение упорядоченного развития и устойчивости ИИ, уточнение ответственности заинтересованных сторон и стандартизация условий и процедур управления, усиление предотвращения рисков путем усовершенствования оценки рисков при разработке ИИ, поощрение использования и диверсификации технологий ИИ для решения экономических и социальных проблем и поощрение междисциплинарных, межрегиональных и трансграничных обменов и сотрудничества.

Принципы и практика этического использования ИИ в бизнесе социальных инноваций Hitachi (см. [80])

Управление и этика ИИ являются ключевыми вопросами, значительно воздействующими на общество в связи с использованием ИИ. Выделяется множество различных аспектов этики ИИ, среди которых - конфиденциальность, справедливость, прозрачность и подотчетность, а также безопасность. На странице представлены документы: этические принципы ИИ компании Hitachi <1>; стандарты поведения на этапе планирования, на этапе социальной реализации и на этапе обслуживания и управления, а также конфиденциальность, справедливость, равенство и предотвращение дискриминации, прозрачность, объяснимость и подотчетность, безопасность и соответствие требованиям.

--------------------------------

<1> Hitachi является торговой маркой компании Kabushiki Kaisha Hitachi Seisakusho. Эта информация приведена для удобства пользователей настоящего стандарта и не означает одобрения или поддержки со стороны ИСО или МЭК.

Отчет о зрелости этики в области ИИ в Малайзии, 2021 г. Доктрина ИИ (см. [81])

В документе кратко изложена Национальная рамочная программа Малайзии по этике в области ИИ, в которой отмечаются два подхода: с одной стороны, стимулирование инновационного потенциала ИИ; с другой - разработка и внедрение этичного и надежного ИИ. Эти процессы стали центральным фактором развития и внедрения ИИ. Развитие ИИ порождает ряд вопросов и задач, требующих тщательного рассмотрения, особенно когда разработка и внедрение ИИ создают этические дилеммы. В документе основное внимание уделено вопросам недоверия, которое вызывает ИИ. В нем изложены принципы, которые могут противостоять этим проблемам, такие как объяснимость, раскрытие информации, конфиденциальность и управление данными, качество и целостность данных, доступ к данным и практическая применимость. Документ включает индекс зрелости этики ИИ, который отражает степень осознания полезности системы ИИ, степень прозрачности и объяснимости, а также степень соблюдения конфиденциальности и принятия мер по управлению данными.

Готовность к рассмотрению ИИ на Филиппинах (см. [82])

Обзор готовности к рассмотрению ИИ на Филиппинах. Это один из примеров того, как Агентство по развитию ИИ ежемесячно освещает внедрение и готовность ИИ не только в западных странах. В число других стран входят: Мексика, Аргентина, Мьянма, Южная Корея (с упоминанием культуры "быстро, быстро"), Нигерия, Египет, Колумбия, Узбекистан, Зимбабве и Сингапур.

Международный исследовательский центр по этике и управлению ИИ. Этические нормы для ИИ нового поколения. Китай (см. [83])

25 сентября 2021 г. Национальный комитет по управлению искусственным интеллектом нового поколения опубликовал "Этические нормы для ИИ нового поколения". Его цель - интегрировать этические нормы на всех этапах жизненного цикла ИИ, обеспечить этические рекомендации для физических и юридических лиц, а также для других организаций, занимающихся деятельностью, связанной с ИИ. Документ содержит полный набор норм. В своде этических норм рассмотрены актуальные этические задачи неприкосновенности частной жизни, предубеждений, дискриминации и объективности со стороны всех слоев общества. Свод этических норм включает в себя общие принципы, этические нормы для конкретных видов деятельности, руководство по организации и внедрению и выдвигает шесть фундаментальных этических требований, таких как повышение благосостояния человечества, продвижение ответственности и объективности, защита конфиденциальности и безопасности, обеспечение контролируемости и достоверности, усиление подотчетности и повышение этической грамотности. В то же время выдвинуто 18 конкретных этических требований для конкретных видов деятельности, таких как управление, исследования и разработки, поставки и использование ИИ.

Экспертная группа по вопросам реализации принципов ИИ. Рабочая группа (см. [84])

Япония опубликовала документ "Социальные принципы человеко-ориентированного ИИ", принятый советом по продвижению комплексной инновационной стратегии, который вносит вклад в формулирование рекомендаций ОЭСР по ИИ. Социальные принципы ИИ состоят из семи принципов: (1) ориентированность на человека, (2) образование/грамотность, (3) защита конфиденциальности, (4) обеспечение безопасности, (5) честная конкуренция, (6) справедливость, подотчетность и прозрачность и (7) инновации. В документе представлены цели, которые должны быть реализованы компанией, занимающейся ИИ, для оказания содействия при реализации принципов ИИ, что облегчит внедрение ИИ.

Что буддизм может сделать для этики ИИ (см. [85])

В публикации рассматривается, что буддизм может предложить для этики ИИ. В материале отмечается, что "любое этичное использование ИИ должно быть направлено на уменьшение боли и страданий", а также принцип "Не навреди: бремя доказательства лежит на тех, кто стремится доказать, что конкретное применение ИИ не причиняет вреда".

Переосмысление алгоритмической справедливости в Индии и за ее пределами (см. [86])

Исследование подчеркивает, что вопросы, связанные с ИИ в Индии, отличаются от рассматриваемых в западных странах и могут потребовать различных подходов для достижения объективности.

Угроза ИИ и наш ответ. Этическая хартия ИИ в Южной Корее (см. [87])

В начале хартии отмечается, что изменения, вызванные внедрением ИИ, продолжаются и что эффективность ИИ практически не опровергается. Южнокорейцы активно участвуют в дискуссиях по минимизации побочных эффектов использования ИИ и его ответственному применению, и публикация Корейской этической хартии ИИ является одним из таких результатов. В исследовании рассматривается, как южнокорейское общество реагирует на угрозы при использовании ИИ, которые могут возникнуть в будущем, путем изучения различных этических хартий ИИ в Республике Корея. Кроме того, семь угроз ИИ классифицируют по трем категориям: ценностное суждение ИИ (человеческая дискриминация в ИИ, оценка ИИ человеческой ценности); злонамеренное использование ИИ (смертельное оружие ИИ, кибератаки на основе ИИ, чрезмерное вторжение в частную жизнь) и отчуждение человека (поглощение ИИ человеческих профессий, углубление отчуждения уязвимых в цифровом отношении людей). Авторы выделяют 14 тем, основанных на трех категориях: защита социальных ценностей (включая предотвращение социальной дискриминации, социальную интеграцию в целом, уважение человеческого достоинства, стремление к человеческому благу и счастью); контроль ИИ (объяснимый алгоритм, использование данных на основе социальной этики, подготовка к сбоям и опасным ситуациям, обязательный контроль со стороны человека, ограничение целей использования ИИ, применение системы поступравления, четкое разделение ответственности и возможность проверки применения ИИ) и укрепление цифрового гражданства (культура постоянного многостороннего общения, расширение возможностей использования ИИ). Анализ показывает, что Корея еще не смогла должным образом отреагировать на угрозу поглощения ИИ человеческих профессий (рабочих мест). Кроме того, хотя корейские этические хартии ИИ представляют адекватные ответы на смертоносное оружие ИИ, их положения будет трудно реализовать, поскольку конкуренция за оружие ИИ между военными державами усиливается. Статья содержит полезный обзор семи этических хартий ИИ в Корее, первая из которых (Проект этической хартии роботов) опубликована еще в 2007 г.

Первый этический кодекс ИИ подписан в России (см. [88])

Кодекс станет частью федерального проекта "Искусственный интеллект" и Стратегии развития информационного общества на 2017 - 2030 гг. Он устанавливает общие этические принципы и нормы поведения, которыми должны руководствоваться лица, участвующие в деятельности с использованием ИИ. Кодекс распространяется на отношения, связанные с этическими аспектами создания (проектирование, конструирование, опытная эксплуатация), внедрения и использования технологий ИИ на всех этапах жизненного цикла, которые в настоящее время не регулируются российским законодательством или другими нормативными актами.

Сбер в числе пионеров, принявших этические принципы ИИ в России (см. [89])

В пресс-релизе сообщается, что правление Сбербанка <1> приняло этические принципы разработки и использования ИИ в Группе Сбер. Приняты следующие пять принципов: безопасный ИИ, объяснимый ИИ, надежный ИИ, ответственный ИИ и справедливый ИИ. Каждый принцип задокументирован с поясняющими примерами. Принципы разработаны с учетом требований Национальной стратегии развития искусственного интеллекта до 2030 года.

--------------------------------

<1> Сбер является товарным знаком Сбербанка России. Данная информация приведена для удобства пользователей настоящего стандарта и не является одобрением или поддержкой со стороны ИСО или МЭК.

Альянс в сфере ИИ. Кодекс этики в области ИИ (см. [90])

Кодекс распространяется на отношения, связанные с этическими аспектами создания (проектирование, конструирование, опытная эксплуатация), внедрения и использования технологий ИИ на всех этапах жизненного цикла, которые в настоящее время не регулируются законодательством Российской Федерации и/или положениями технического регулирования. В разделе 1 "Принципы этики и правила поведения" изложены основные принципы и сопутствующие каждому из них характеристики: защита интересов и прав человека как коллективных, так и индивидуальных (включая человеко-ориентированный и гуманистический подход, уважение автономии и свободы воли человека, соблюдение закона, отсутствие дискриминации, оценку рисков и гуманитарных аспектов); необходимость осознанной ответственности при создании и использовании ИИ (включая риск-ориентированный подход, ответственное отношение, рассмотрение и принятие мер предосторожности, принцип "не навреди", идентификацию ИИ при общении с человеком, безопасность данных, информационную безопасность, добровольную сертификацию и соблюдение кодексов, контроль рекурсивного самосовершенствования систем ИИ); человек всегда несет ответственность за последствия применения системы ИИ (контроль, ответственность); технологии ИИ должны применяться и внедряться там, где это может принести пользу людям (в том числе применение системы ИИ в соответствии с ее назначением, стимулирование развития ИИ); интересы развития технологий ИИ выше интересов конкуренции (корректность сравнений систем ИИ, развитие компетенций, сотрудничество разработчиков); значимость максимальной прозрачности и правдивости информации в отношении уровня развития, о возможностях и рисках технологий ИИ (в том числе достоверность информации об ИИ и повышение осведомленности об этике применения ИИ).

Департамент промышленности, науки, энергетики и ресурсов Правительства Австралии. Австралийские рамочные положения в области этики искусственного интеллекта (см. [91])

Добровольные рамочные положения по этике ИИ служат руководством для предприятий и правительств по ответственному проектированию, разработке и внедрению ИИ и состоят из четырех базовых компонентов: принципы этики ИИ, применение принципов, проверка принципов и разработка концептуальных положений. Такой подход, напоминающий жизненный цикл, хотя и не является уникальным для Австралии, нечасто встречается в других ресурсах. Восемь принципов этики ИИ в Австралии разработаны для обеспечения защищенности, безопасности и надежности ИИ. Они учитывают следующее: благополучие человека, общества и окружающей среды, ценности, ориентированные на человека, справедливость, защиту частной жизни и конфиденциальность, надежность и безопасность, прозрачность и объяснимость, возможность конкуренции и подотчетность.

ИИ Сингапур. Обзор этики и управления ИИ (см. [92])

В статье рассмотрено управление через призму практического применения принципов ИИ и определены пять общих тем или всеобъемлющих принципов этичного ИИ: польза для людей, непричинение вреда, автономия, объективность и объяснимость. В статье отмечается, что первые четыре принципа соответствуют четырем традиционным принципам биоэтики, и к ним добавляется новый принцип объяснимости для ИИ. Документ содержит ссылки на технологические инструменты с открытым исходным кодом от IBM <2> и Microsoft <3>, которые могут помочь разработчикам Python <4> при внедрении этих принципов в работу.

--------------------------------

<2> IBM является зарегистрированной торговой маркой корпорации International Business Machines Corporation (IBM). Эта информация приведена для удобства пользователей настоящего стандарта и не является одобрением или поддержкой со стороны ИСО или МЭК.

<3> Microsoft является зарегистрированной торговой маркой корпорации Microsoft. Эта информация приведена для удобства пользователей настоящего стандарта и не является одобрением или поддержкой со стороны ИСО или МЭК.

<4> Python является торговой маркой Python Software Foundation. Эта информация приведена для удобства пользователей настоящего стандарта и не является одобрением или поддержкой со стороны ИСО или МЭК.

Форум по ИИ в Новой Зеландии. Надежный ИИ в Aotearoa (Новая Зеландия на языке коренного народа маори). Принципы ИИ (см. [93])

Чтобы помочь поддержать общественное доверие к разработке и использованию ИИ в Новой Зеландии, рабочая группа "Закон, общество и этика" форума ИИ опубликовала набор из пяти руководящих принципов, призванных обеспечить руководство высокого уровня для всех, кто занимается проектированием, разработкой и использованием ИИ в Новой Зеландии (заинтересованные стороны ИИ), с целью обеспечить новозеландцам доступ к надежному ИИ. Пять руководящих принципов: справедливость и правосудие (включая уважение применимых законов, прав человека, прав маори, демократических ценностей и принципов равенства и справедливости), надежность, безопасность и конфиденциальность, прозрачность, надзор за людьми и подотчетность и благополучие. Эта публикация примечательна тем, что она одна из немногих, в которой рассмотрены и соблюдены права коренных народов.

Сингапурский подход к управлению ИИ (см. [94])

В статье рассмотрена эволюция в период с 2019-го по 2020-й год сингапурской модели рамочного механизма управления ИИ (от первого ко второму изданию). Второе издание основано на двух руководящих принципах первого издания: решения, принимаемые ИИ, должны быть объяснимыми, прозрачными и справедливыми, а системы ИИ должны быть ориентированы на человека. Второе издание включает дополнительные соображения (такие как надежность и воспроизводимость) и уточняет оригинальную модельную основу для большей актуальности и удобства использования. Например, раздел об управлении взаимоотношениями с клиентами расширен за счет включения соображений о взаимодействии и коммуникации с более широкой сетью заинтересованных сторон. Во втором издании модельной основы по-прежнему использован подход, не зависящий от выбора сектора и технологии, который может дополнить отраслевые требования и руководства. Практическое руководство охватывает внутренние структуры управления и соответствующие меры, определение уровня участия человека в принятии решений с использованием ИИ, управление операциями, взаимодействие и общение с заинтересованными сторонами. Работа комиссии по защите персональных данных поддерживается консультативным советом по этическому использованию ИИ и данных.

Сборник примеров использования, практические иллюстрации модельной основы управления ИИ (см. [95])

Дополнением к сингапурским модельной основе и подходу к управлению ИИ является сборник примеров использования, который демонстрирует, как национальные и международные организации различных секторов и разного масштаба внедрили или привели свои практики управления ИИ в соответствие со всеми разделами модельной основы. В сборнике также показано, как представленные организации эффективно внедрили ответственную практику управления ИИ и получили выгоду от использования ИИ в своей сфере деятельности. Эти реальные примеры использования ИИ предназначены для того, чтобы стимулировать другие компании делать то же самое и способствовать ответственному развитию и внедрению ИИ.

Консультативный совет по этичному использованию ИИ и данных, Управление по развитию информационно-коммуникационных средств и комиссия по защите персональных данных. Руководство по реорганизации рабочих мест в эпоху ИИ (см. [96])

Первое в Сингапуре руководство, которое помогает организациям и сотрудникам понять, как можно пересмотреть существующие должностные функции, чтобы использовать потенциал ИИ и повысить ценность их работы. В руководстве представлен практический подход, не зависящий от отрасли, который поможет компаниям управлять воздействием ИИ на сотрудников, а организациям, внедряющим ИИ, подготовиться к цифровому будущему. В руководстве представлены практические шаги в четырех областях реорганизации рабочих мест: трансформация рабочих мест, определение четких взаимосвязей между рабочими местами, устранение барьеров на пути цифровой трансформации и обеспечение эффективной коммуникации между работодателями и сотрудниками. Руководство является практическим примером решения этических рисков и воздействия на устойчивое развитие общества, часто упоминаемых в других документах настоящего приложения.

Компьютерное общество Сингапура. Свод знаний по этике и управлению ИИ (см. [97])

Свод знаний по этике и управлению ИИ, разработанный Сингапурским компьютерным обществом и одобренный управлением по развитию информационно-коммуникационных средств массовой информации, поддерживает предприятия, нанимающие обученных специалистов по этике ИИ для ответственного внедрения ИИ. BoK - это документ, основанный на модельной основе управления ИИ, который со временем будет совершенствоваться. Он является основой для подготовки и сертификации специалистов по этике и управлению ИИ в будущем как в сфере ИКТ, так и в других сферах, а также призван способствовать разработке учебных программ по управлению ИИ. Данное пособие было предшественником BoK и может быть востребовано у тех специалистов, кто менее продвинулся на пути к этике ИИ, оно дает ответы на такие фундаментальные вопросы, как: "зачем нужна этика ИИ?", "какие преимущества понимания этики ИИ?" и "кто несет ответственность за этику ИИ?".

Специалисты, исследователи, регулирующие органы и физические лица должны иметь представление об этических и общественных проблемах, связанных с системами и приложениями ИИ. Общедоступная информация содержит примеры положительного воздействия систем и приложений ИИ (см. [16]). Примеры использования были выбраны для иллюстрации этических и общественных проблем или вопросов, связанных с системами и приложениями, использующими функциональность ИИ (системы и приложения на основе технологии ИИ).

Таблица B.1 иллюстрирует проблемы подотчетности, профессиональной ответственности, конфиденциальности, защиты и безопасности, участия и развития сообщества, соблюдения верховенства закона и практики в трудовой сфере.

Таблица B.2 иллюстрирует проблемы прав человека, справедливости и недискриминации, конфиденциальности, безопасности и защиты, контроля человеком технологий и соблюдения верховенства закона.

Таблица B.3 иллюстрирует проблемы конфиденциальности.

Таблица B.4 иллюстрирует проблемы подотчетности, справедливости и недискриминации, прозрачности, конфиденциальности, безопасности и защиты, соблюдения верховенства закона и соблюдения международных прав человека.

Таблица B.5 иллюстрирует проблемы подотчетности, справедливости и недискриминации, прозрачности, конфиденциальности, защиты и безопасности.

Таблица B.6 иллюстрирует проблемы подотчетности, справедливости и недискриминации, прозрачности, конфиденциальности, защиты и безопасности.

Таблица B.7 иллюстрирует проблемы справедливости и недискриминации, профессиональной ответственности, продвижения человеческих ценностей, участия и развития сообщества и соблюдения верховенства закона.

Таблица B.8 иллюстрирует проблемы справедливости и недискриминации, прозрачности и объяснимости, а также профессиональной ответственности.

Таблица B.9 иллюстрирует проблемы подотчетности, профессиональной ответственности, продвижения человеческих ценностей, конфиденциальности, безопасности и защиты, контроля человеком технологий, а также участия и развития сообщества.

Таблица B.10 иллюстрирует проблемы продвижения человеческих ценностей, конфиденциальности, участия и развития сообщества.

Таблица B.11 иллюстрирует проблемы подотчетности, профессиональной ответственности и контроля человеком технологий.

Таблица B.12 иллюстрирует проблемы конфиденциальности.

Таблица B.13 иллюстрирует проблемы нарушения международных прав человека, конфиденциальности, защиты и безопасности, а также соблюдения верховенства закона.

Таблица B.14 иллюстрирует проблемы нежелательной предвзятости и дискриминации.

--------------------------------

<1> В ссылку [88] добавлена ссылка на сайт, где представлен полный текст российского "Кодекса этики в сфере ИИ" на русском и английском языках (внесено для удобства поиска документа пользователями).