В разделе 6 детализируются действия и задачи, обеспечивающие входную информацию, результаты и дополнительную информацию, которая может быть использована как методические материалы при проведении оценки качества программного продукта. Следует отметить, что назначение раздела 6 - представить общий процесс оценки.
Важно, что реализации процесса оценки присуща гибкость, необходимая, чтобы подстроиться под уникальность каждого приложения, избежать ненужной работы или незначимой работы, а также обеспечить практические средства для установления необходимой уверенности в программном обеспечении.
Требования и рекомендации для каждого действия и задачи представлены в разделе 6.
У различных ролей, включая приобретателей, разработчиков, независимых оценщиков, поставщиков, операторов и специалистов по обслуживанию, цели - различны.
- приобретатель: заказывая изготовляемый программный продукт, приобретатель может установить требования к качеству использования и требования к качеству программного обеспечения, определить требования к поставщику и оценить соответствие потенциально-возможной покупки этим требованиям перед приобретением. При заказе продукта, который будет разработан, цель определения требований к качеству состоит в том, чтобы обеспечить соответствие продукта заявленным и подразумеваемым потребностям пользователя. При покупке программного продукта оценку можно использовать для того, чтобы сравнить альтернативные продукты и гарантировать соответствие выбранного продукта требованиям качества;
- разработчик: разрабатывая изготовляемый на заказ программный продукт, разработчик может оценить промежуточные программные продукты или конечный продукт с тем, чтобы обеспечить качество разработанного программного обеспечения. Разработчик может использовать результаты оценки программного обеспечения качества продукции для того, чтобы продукты соответствовали требуемым критериям качества, которые могли быть установлены заказчиком или в сравнении с другими продуктами;
- независимые оценщики: для обеспечения качества программного обеспечения, оценивая целевой программный продукт, независимый оценщик может оценить промежуточные программные продукты или конечный продукт. Независимый подход к процессу оценки обеспечивает требования и рекомендации для практической реализации оценки программного продукта в условиях, когда результаты оценки должны быть поняты, приняты несколькими сторонам при условии доверия результатам. Этот подход и используется оценщиками при выполнении независимой оценки программного продукта. Подобная оценка может быть выполнена по требованию разработчика, приобретателя или некоторой другой стороны;
- поставщик: поставщик может использовать результаты оценки программного продукта для обеспечения соответствия продуктов требуемым критериям качества, которые могут быть установлены приобретателем, или в сравнении с другими продуктами;
- оператор: человек или организация, которые управляют системой, частью которой является программный продукт, могут использовать оценку качества программного обеспечения, чтобы удостовериться в том, что требования к уровню качества выполняются в различных эксплуатационных режимах, и высказать свое мнение о необходимости каких-либо изменений ответственным за техническое обслуживание лицам;
- специалист по обслуживанию: человек или организация, которые обслуживают систему, частью которой является программный продукт, могут использовать оценку программного обеспечения для проверки выполнения требований к уровню качества, требований пригодности к обслуживанию и мобильности.
Как жизненный цикл качества программного обеспечения, так и показатели программного обеспечения, относящиеся к жизненному циклу, описаны в ИСО/МЭК 25020.
Это мероприятия, назначение которых помочь в оценке путем сбора информации по методам оценки качества программного продукта, инструментам для разработки и проверки показателей и стандартизации процессов оценки и измерений.
ИСО/МЭК 25001 содержит требования и рекомендации для поддержки процессов оценки качества программного продукта, а также для улучшения процесса оценки организационного уровня посредством, например, квалификации каждого проекта оценки и собственно процесса оценки.
ИСО/МЭК 25041 содержит специальные требования и рекомендации для разработчиков, приобретателей и оценщиков.
ИСО/МЭК 25042 определяет структуру и состав модулей оценки. Модули оценки описывают как технологию оценки, так и порядок применения технологии.
Цель - провести оценку качества программного продукта.
Оценщик должен реализовать действия и задачи, описанные в разделе 6 в соответствии с применимыми организационными политиками и процедурами, относящимися к процессу оценки качества программного продукта (см. рисунок 3).
Примечания
1 На рисунке 3 приведено упрощенное представление, в котором не показаны все итерации, относящиеся к конкретным действиям или между действиями. Там должна быть инфраструктура организации оценщика, включая инструменты и технологии, необходимые для проведения оценки качества программного продукта.
2 ИСО/МЭК 25001 содержит рекомендации по планированию и организационным аспектам управления, связанным с оценкой качества программного продукта.
Инфраструктура должна разрешать сбор данных и модификацию процесса на основе анализа данных.
Персонал, участвующий в оценке, должен иметь необходимые навыки и подготовку.
Для того чтобы обеспечить повторяемость, воспроизводимость, беспристрастность и объективность результатов оценки, оценщик должен действовать в организационных условиях, которые обеспечивают все необходимые гарантии для получения достаточного качества своей деятельности.
Каждое действие в оценке качества программного продукта должно быть задокументировано.
Протокол должен включать подробный отчет о действиях, выполняемых оценщиком при реализации плана оценки качества программного продукта.
Протокол должен содержать исчерпывающую информацию, необходимую для управления оценкой качества программного продукта.
Протокол оценки должен включать любые промежуточные данные, на которых базируется любая интерпретация. Решения, принятые во время процесса интерпретации, должны также быть включены в протокол оценки, как это определено в плане оценки.
Протокол должен содержать достаточную информацию для каждого действия для эффективного осуществления последующих действий оценки качества программного продукта.
Протокол должен быть организован таким образом, чтобы обеспечить документирование оценки качества программного продукта и позволить повторно обрабатывать результаты оценки.
Должен быть подготовлен отчет об оценке качества программного продукта, в котором должны быть записаны мероприятия по оценке и результаты оценки.
Примечание - В приложении E представлен шаблон отчета об оценке. Можно использовать другой формат отчета об оценке из другого стандарта, такой как общий промышленный формат (например, ИСО/МЭК 25062), или же формат, который может быть создан оценщиками.
В случае использования для выполнения действий оценки какого-либо инструмента необходимо, чтобы ссылка на инструмент была включена в отчет об оценке. Ссылка должна состоять из идентификации инструмента, его поставщика и версии инструмента.
Более подробная ссылка на используемый инструмент должна быть включена в протокол оценки. В него должны быть включены подробная конфигурация инструмента, и вся другая информация, необходимая для того, чтобы было возможно повторить мероприятия по оценке и получить тот же промежуточный результат.
Входной информацией для этого действия должно быть следующее:
a) потребности в оценке качества программного продукта;
b) спецификация требований к качеству программного продукта;
c) программный продукт, включая промежуточные продукты, который будет подвергнут оценке.
Результатами этого действия должно быть следующее:
a) спецификация целей оценки качества программного продукта;
b) спецификация требований оценки качества программного продукта;
c) спецификация высокоуровневого плана оценки качества программного продукта.
Это действие состоит из задач, перечисленных ниже.
6.3.1 Установить цель оценки
Цель оценки качества программного продукта должна быть задокументирована как основание для дальнейших действий и задач оценки.
Оценка качества программного продукта непосредственно поддерживает и разработку, и приобретение программного обеспечения, которое соответствует пользовательским и потребительским потребностям. Конечная цель состоит в том, чтобы убедиться, что продукт обеспечивает требуемое качество - что он соответствует установленным и подразумеваемым потребностям пользователей (включая операторов, потребителей результатов программного обеспечения и специалистов по обслуживанию программного обеспечения).
Качество программного продукта может быть оценено в пределах определенной структуры качества на всех этапах жизненного цикла, относящихся к процессу разработки программного обеспечения и процессу приобретения и определенных в процессах жизненного цикла программного обеспечения ИСО/МЭК 12207 и процессах жизненного цикла систем ИСО/МЭК 15288.
Качество программного продукта может быть оценено либо как качество промежуточного продукта, либо как качество конечного продукта. Цель оценки качества промежуточного программного продукта:
- обеспечить качество продукта;
- принять решение о приемке промежуточного программного продукта от субподрядчика;
- оценить текущую целесообразность проекта разработки;
- принять решение о завершении этапа жизненного цикла и времени перехода продукта к следующему этапу;
- предсказать или оценить качество конечного программного продукта;
- собрать информацию по промежуточным программным продуктам, для того чтобы контролировать и управлять процессом.
Цель оценки качества конечного программного продукта может заключаться в следующем:
- принять решение о приемке продукта;
- определить срок выхода продукта;
- сравнить продукт с конкурентоспособными продуктами;
- выбрать продукт из числа альтернативных продуктов;
- оценить положительные и отрицательные стороны продукта при его использовании;
- определить причину неудачи в исследовании;
- решить, что пора улучшить или заменить продукт.
6.3.2 Получить требования к качеству программного продукта
Для программного продукта необходимо определить список заинтересованных лиц.
Примечания
1 Для определения всех заинтересованных лиц может потребоваться информация от запрашивающей стороны.
2 Среди заинтересованных лиц могут быть люди, группы или организации, которые могут быть включены в оценку. Необходимо определить два типа заинтересованных лиц. Первый из них это заинтересованное лицо программного продукта, такое как разработчик, приобретатель, независимый оценщик, пользователь, оператор, потребитель результатов программного обеспечения, специалист по обслуживанию или поставщик. Другой тип - запрашивающая сторона оценки, тот, кто запрашивает информацию о качестве программного обеспечения, спонсирует оценку и требует отчет об оценке.
Использование модели качества должно обеспечить удовлетворение конкретных требований к качеству программного продукта.
3 ИСО/МЭК 25010 определяет модель качества с точки зрения характеристик и подхарактеристик качества.
4 ИСО/МЭК 25030 определяет требования и рекомендации для спецификации требований к качеству программного продукта.
5 В том случае, если доступна уже существовавшая спецификация требований к качеству программного продукта, она может быть повторно использована, пересмотрена и усовершенствована.
Степень, в которой оценка качества покрывает указанные требования к качеству программного обеспечения, должна быть определена с учетом требований к качеству программного продукта, для того чтобы сформировать требования к оценке качества программного продукта. Решение этой задачи должно учитывать ограничения, такие как бюджет оценки, плановый срок оценки, цель оценки и критичность использования программного продукта.
6 Поскольку спецификация требований к качеству программного продукта может быть усовершенствована во время процесса разработки или приобретения, возможно нужно будет уточнить оценку качества программного продукта с тем, чтобы сделать ее совместимой с целью оценки.
6.3.3 Определить части продукта, которые будут включены в оценку
Все части продукта, которые будут включены в оценку, должны быть определены и задокументированы.
Выбор типа промежуточного или конечного программного продукта, который будет оценен (например, спецификация требований, схема проекта и тестовая документация), зависит от этапа жизненного цикла и цели оценки. Например, если цель оценки - выбор продукта среди альтернативных продуктов, продукты, подлежащие оценке, будут главным образом конечными программными продуктами или их компонентами. На начальных стадиях процесса оценки не представляется возможным идентифицировать подробный список продуктов, которые будут оценены, он зависит в том числе от показателей, которые будут использоваться и от артефактов, которые будут произведены в процессах жизненного цикла разработки программного обеспечения. Поэтому на начальной стадии компоненты программного продукта, которые могут быть оценены, должны быть определены таким образом, чтобы первоначальный список мог бы уточняться по мере выполнения мероприятий оценки.
6.3.4 Определить жесткость оценки
Необходимо определить жесткость оценки.
Примечания
1 Жесткость определяется для того, чтобы обеспечить уверенность в качестве программного продукта в соответствии с его назначением и целью оценки.
Жесткость оценки должна быть связана с набором характеристик и подхарактеристик, которые устанавливают ожидаемые уровни оценки, которые, в свою очередь, определяют методы оценки, которые нужно применять и результаты оценки, которые должны быть получены.
2 Стандарт ИСО/МЭК 15026 определяет уровни целостности систем и программного обеспечения (см. приложение A). Требуемый уровень целостности программного обеспечения во многом определяет строгость и формальность оценки.
3 Ниже приводится пример методов оценки, которые будут применены к характеристике функциональности согласно различным требованиям уровней оценки от менее до более строгого:
- Функциональное тестирование или тестирование методом "черного ящика";
- Контроль документации на основании контрольных списков;
Поблочное тестирование с использованием критерия тестового покрытия.
Входными данными для этого действия должно быть следующее:
a) спецификация целей оценки качества программного продукта;
b) спецификация требований к оценке качества программного продукта;
c) спецификация высокоуровневого плана оценки качества программного продукта.
Результатами этого действия должно быть следующее:
a) спецификация выбранных показателей качества;
b) спецификация критериев принятия решения для показателей качества программного продукта;
c) спецификация критериев принятия решения для оценки качества программного продукта;
d) спецификация пересмотренного высокоуровневого плана оценки качества программного продукта.
Это действие состоит из следующих задач.
6.4.1 Выбрать показатели качества (модули оценки)
Оценщик должен выбрать показатели качества (модули оценки) таким образом, чтобы покрыть все требования к оценке качества программного обеспечения.
Требования к оценке качества программного продукта должны быть определены для каждого соответствующего компонента программного продукта так, чтобы возможно было определить соответствующий показатель (меру) качества, используемый далее для оценки качества программного продукта.
Методы оценки качества программного продукта должны быть задокументированы с учетом действий, которые будут предприниматься для получения результатов оценки. Если выбранный метод оценки будет основываться на использовании программного инструмента, то этот инструмент должен быть определен в плане оценки. В идентификацию инструмента должны быть включены, по меньшей мере, название инструмента, номер его версии и его источник (например, поставщик). Описание метода оценки должно быть завершено идентификацией компонентов продукта, к которым этот метод будет применен. Если для экспертной оценки результатов измерений требуется интерпретация (дешифрование) результатов, тогда спецификации оценки должна быть определена процедура интерпретации.
Примечания
1 ИСО/МЭК 25042 определяет, как сформировать модуль оценки, в который помимо методов оценки также включена информация о входных данных для оценки, данных, которые будут получены в результате измерений, и о процедурах поддержки и инструментах.
2 На данном этапе методы оценки связаны с элементами в спецификации оценки, которые сами по себе связаны с требованиями к оценке. Предполагается, что каждый из методов оценки будет применен для различных компонентов продукта, представленных для оценки. Может иметь место случай, когда к тому же компоненту продукта нужно применить несколько методов оценки. Кроме того, методы оценки могут содержать общие части.
3 Для случая, когда требования к оценке относятся к уровням оценки, в приложении A представлена методика использования метода оценки в зависимости от уровня оценки и рассматриваемой характеристики качества.
4 В ИСО/МЭК 25020 представлена эталонная модель измерения качества программного продукта, которую можно использовать для выбора и разработки показателей (мер) качества программного обеспечения.
5 Во время процесса формирования спецификации требований к качеству программного обеспечения, как это определено в ИСО/МЭК 25030, может потребоваться использование показателей качества как эталонных для того, чтобы определить требования к качеству, главным образом те, которые относятся к количественным целям.
Для надежности сравнения продуктов или значений критерия требуется проводить строгие измерения. Процедуры измерения должны измерять характеристику или подхарактеристику качества программного обеспечения, при этом должно быть подтверждено, что измерения сделаны с точностью, достаточной для проверки критериев и необходимых сравнений. Для сравнения продуктов с различными характеристиками данные из опросных листов и мнения экспертов могут быть недостаточно надежными. Следует предусмотреть возможности ошибок измерения, присущих средствам измерения, или человеческих ошибок.
6 В технических отчетах ИСО/МЭК 25022, ИСО/МЭК 25023 и ИСО/МЭК 25024 приведены примеры показателей (мер), которые могут использоваться, как они определены, или могут быть адаптированы к конкретным потребностям.
7 Тип требуемого измерения определяется целью оценки. Если основная цель состоит в том, чтобы понять и исправить недостатки, то можно провести несколько измерений программного обеспечения для контроля и управления улучшениями. Для этих целей может быть полезен широкий диапазон показателей, включая опросные листы и мнение экспертов. Основным требованием является требование правильного определения измерением влияния любых изменений программного обеспечения на качество.
Спецификация оценки должна включать в себя:
- область применения оценки со ссылками на компоненты продукта, как это определено в спецификации продукта;
- перекрестные ссылки между информацией, необходимой для выполнения оценки, компонентами продукта и другими соответствующими документами, перечисленными в спецификации продукта;
- спецификацию измерений и проверок, которые будут выполняться и ссылки на компоненты продукта, для которых они должны быть выполнены;
- отображение между спецификацией измерений и проверок и требованиями оценки вместе со ссылкой на стандарты или обоснование для каждого измерения или проверки в списке.
6.4.2 Определить критерии решения для показателей качества
Для конкретных выбранных показателей должны быть определены критерии решения.
Примечание - Критерии решения представляют собой числовые пороги или цели, используемые либо для определения необходимости действия или дальнейших исследований, либо выражения уровня доверия к данному результату. Зачастую они устанавливаются с учетом требований к качеству и соответствующих критериев оценки. Для установки критериев пользователи могут также использовать сравнительные тесты, статистический контроль пределов, исторические данные, потребительские требования или другое. Например, при оценке дефекта, который превышает приемлемый порог, следует выполнить дополнительные действия для обнаружения и удаления дефектов. Информация по этому вопросу приведена в разных источниках (приемлемую ссылку см. ИСО/МЭК 25020).
6.4.3 Определить критерии решения для оценки
Оценщик должен подготовить процедуру для дальнейшего обобщения с отдельными критериями для различных характеристик качества, каждая из которых может либо основываться на отдельных подхарактеристиках и показателях качества, либо быть взвешенной комбинацией подхарактеристик и показателей качества. Результаты обобщения следует использовать в качестве основы для оценки качества программного продукта.
Примечания
1 Критерии оценки также могут быть использованы для поддержки управленческих решений, а обобщенное качество допускается использовать для сравнения других аспектов, таких как время и стоимость.
2 Для оценки качества продукта результаты оценки различных характеристик должны быть обобщены (суммированы).
3 В ИСО/МЭК 25020 показана взаимосвязь между характеристиками качества, подхарактеристиками качества и показателями качества в эталонной модели измерения качества программного продукта.
Входными данными для этого действия должно быть следующее:
a) спецификация требований оценки качества программного продукта;
b) спецификация требований к качеству программного продукта;
c) спецификация выбранных показателей качества (модули оценки);
d) спецификация критериев решения для показателей качества программного продукта;
e) спецификация критериев решения для оценки качества программного продукта;
f) спецификация пересмотренного высокоуровневого плана оценки качества программного продукта.
Результатами этого действия должно быть следующее:
a) спецификация подробного плана оценки качества программного продукта;
b) спецификация методов оценки качества программного продукта.
Разработка оценки состоит из следующих задач.
6.5.1 Плановые мероприятия оценки
Ранее определенные мероприятия по оценке качества программного продукта должны быть запланированы с учетом доступности ресурсов, таких как персонал, программные инструменты и компьютеры.
Примечания
1 При планировании методов оценки важно понимать, что между различными методами оценки существует высокая степень взаимозависимости, т.е. информация, полученная одним методом, может влиять на объект приложения другого метода. И в связи с итеративной природой оценки ограничения могут быть пересмотрены после получения соответствующей информации. Поэтому план оценки будет, вероятно, изменен по мере проведения оценки. Например, он может быть общим для более подробных уровней оценки с тем, чтобы считать требование либо излишним, либо дополнительным по мере продвижения процесса оценки.
2 Оценку программных продуктов можно проводить поэтапно в различные моменты жизненного цикла разработки или единовременно, в определенный момент жизненного цикла. За выполнение различных частей оценки могут отвечать различные люди или группы. При выполнении поэтапной оценки шаги мероприятия по оценке повторяются на каждом этапе до тех пор, пока не потребуется какая-либо дальнейшая работа.
В плане оценки не должно быть никаких дублирующих задач. План оценки должен определить моменты принятия решения в процессе оценки, которые определяют, когда и почему оценку нужно считать полной (т.е. принятие или отклонение критериев) и когда она должна быть остановлена. Это должно быть сделано для уменьшения риска ошибок и для того, чтобы уменьшить запланированные для оценки усилия, при рассмотрении, по крайней мере, следующих пунктов:
- бюджета оценки;
- методов оценки и принятых стандартов;
- инструментов оценки;
- мероприятий по оценке, включая расписание и необходимые ресурсы.
План оценки должен включать в себя цель оценки. План оценки должен рассмотреть условия проведения оценки в организации [см. в ИСО/МЭК 25001 - роль группы поддержки оценки и ИСО/МЭК 25001 (приложение A): шаблон плана проекта оценки качества]. План оценки должен содержать следующее:
- цель оценки качества программного продукта;
- организации, участвующие в оценке, такие как независимая организация оценки, разработчики программного продукта и организационные единицы приобретателей;
- бюджет оценки;
- информационные продукты, ожидаемые от оценки;
- график основных этапов оценки;
- обязанности сторон, участвующих в оценке;
- условия среды для оценки;
- методы оценки и инструменты;
- критерии решения для показателей качества программного продукта;
- критерии решения для оценки качества программного продукта;
- принятые стандарты;
- мероприятия оценки.
На ранних стадиях оценки некоторые пункты плана оценки могут быть определены только на высоком уровне. Поэтому план оценки следует пересматривать по ходу действий по оценке, которые предоставлять дополнительную информацию, позволяющую корректировать или детализировать план.
Примечание - Необходимо преобразовать высокоуровневый план оценки в последовательный поэтапный план действий и задач оценки.
Входными данными для этого действия должно быть следующее:
a) спецификация подробного плана оценки качества программного продукта;
b) спецификация требований к оценке качества программного продукта;
c) спецификация требований к качеству программного продукта;
d) спецификация выбранных показателей качества;
e) спецификация критериев решения для показателей качества программного продукта;
f) спецификация критериев решения для оценки качества программного продукта;
g) спецификация методов оценки качества программного продукта;
h) программный продукт, который будет оценен, включая промежуточные продукты.
Результатами этого действия должно быть следующее:
a) результаты измерений качества программного продукта;
b) результаты оценки.
Это действие состоит из следующих задач.
6.6.1 Провести измерения
В соответствии с планом оценки нужно провести выбранные измерения качества программного продукта и компонента для получения результирующих значений на шкалах измерений.
6.6.2 Применить критерии решения для показателей качества
К измеренным значениям необходимо применить критерии решения для показателей качества программного продукта.
6.6.3 Применить критерии решения для оценки
Набор критериев решения должен быть сведен в подхарактеристики и характеристики, в результате чего оценка результатов сводится к формулировке, в какой степени программный продукт отвечает требованиям качества.
Результаты оценки должны:
a) создать соответствующую степень уверенности в том, что программный продукт способен удовлетворить требованиям оценки;
b) выявить любые конкретные недостатки относительно требований оценки и все необходимые дополнительные оценки для определения рамок этих недостатков;
c) выявить любые конкретные ограничения или условия, налагаемые на использование программного продукта;
d) определить любые слабые места или упущения в самой оценке и в любой другой необходимой дополнительной оценке;
e) идентифицировать любые варианты использования программного продукта, раскрытые оценкой.
Примечание - Применить критерии решения для оценки - это задача синтетической оценки качества программного продукта, а не оценки программных процессов. Результаты оценки могут использоваться для выработки управленческих решений, поскольку обобщенное качество сравнивается с другими аспектами, такими как время и стоимость. Управленческое решение для программного продукта может быть "принять" или "отклонить", "выпустить" или "не выпустить" программный продукт.
Входными данными для этого действия должно быть следующее:
a) спецификация требований оценки качества программного продукта;
b) спецификация фактических результатов плана оценки качества программного продукта;
c) спецификация методов оценки качества программного продукта;
d) результаты оценки.
Результатами этого действия должно быть следующее:
a) отчет об оценке качества программного продукта
Это действие состоит из следующих задач.
6.7.1 Анализ результатов оценки
Оценщик и запрашивающая сторона должны выполнить объединенный анализ результатов оценки.
В зависимости от того, кому предназначен отчет об оценке, он должен содержать следующее:
a) требования к оценке качества программного продукта;
b) требования к качеству программного продукта;
c) план оценки качества программного продукта;
d) результаты выполненных измерений и исследований;
e) промежуточные результаты или решения интерпретации, если это определено в плане оценки;
f) любые ограничения, ограничивающие воздействия, недостатки или исключения в действии оценки, в том числе и их влияние на использование, настройку, изменение или общее обслуживание программного продукта с течением времени;
g) оценщиков и их квалификацию;
h) любые расхождения между оцененными версиями продукта и соответствующими входными данными оценки, например, документация или учебные пособия;
i) решение проблем или обходные решения в случае неполноценности;
j) любую другую информацию, необходимую для повторения или воспроизведения оценки;
k) результаты оценки.
В результате анализа действий оценки отчет об оценке должен определять:
a) для каждого недостатка - полный соответствующий анализ и как недостаток был разрешен. Устранение недостатков может включать в себя следующее:
- один из методов оценки установил, что недостаток не является значительным,
- можно найти удовлетворительное обходное решение, смягчающее влияние недостатка; например, модификация продукта, отключение или удаление ненужных функций, восстановление недостающих конструктивных требований с использованием реверсивного проектирования,
- исходное требование не является обязательным, и недостаток может быть приемлемым,
- недостаток приемлем при условии, что использование программного продукта будет контролироваться особыми условиями или ограничениями,
- для устранения недостатка или пробелов в оценке требуются дополнительные мероприятия оценки;
b) любые дополнительные оценки, выполняемые для устранения всех выявленных недостатков:
- определить область действия или влияние недостатка,
- удостовериться, что никаких недостатков нет,
- проверить, что обходное решение технически выполнимо и/или подходит и приемлемо,
- проверить правильность и приемлемую производительность программного обеспечения после внесения изменения в проект или сам продукт для исправления недостатка;
c) в случае, если необходимо ограничить или контролировать использование программного продукта:
- ограничение мешает программному продукту выполнять обязательные требования приложения,
- ограничение влияет на проект приложения, бюджет и расписание,
- ограничение требует дополнительной работы оценки,
- ограничение обеспечивает возможность какого-либо отказа приложения;
d) любые исключения из области применения оценки и/или ограничений для результатов каждой оценки, такие как:
- "Эта оценка не содержит подробный анализ функциональных возможностей продукта." или
- "Данный программный продукт считается квалифицированным до требуемого уровня целостности, если полная оценка необходимой функциональности продукта завершена успешно";
e) должны быть получены обобщенные результаты всех мероприятий, позволяющие сделать общий вывод по оценке программного продукта.
Примечание - Обширная операционная история может восполнить несовершенный процесс программной инженерии.
Необходимо подготовить замечания к отчету об оценке и включить их в окончательную версию отчета.
6.7.3 Провести анализ оценки качества анализа и обеспечить связь с организацией
Оценщик должен рассмотреть результаты оценки и пригодность процесса оценки, индикаторов и произведенных действий. Обратная связь для анализа должна использоваться для совершенствования процесса и методов оценки (модули оценки). При необходимости улучшения модулей оценки нужно включить сбор данных для дополнительных показателей, чтобы проверить их для последующего использования.
Примечание - Анализ оценки качества и обратная связь определены в ИСО/МЭК 25001.
6.7.4 Распорядиться должным образом данными оценки
По завершении оценки данными оценки необходимо распорядиться согласно требованиям запрашивающей стороны.
Это должно быть сделано одним из следующих способов в зависимости от типа данных:
- документы, предоставленные для оценки, должны быть либо возвращены запрашивающей стороне, либо заархивированы на указанный период времени, либо уничтожены безопасным способом;
- отчет об оценке и протокол оценки должны быть заархивированы на указанное время;
- все другие данные должны быть заархивированы на указанный период времени или уничтожены безопасным способом.
В случае если для некоторых данных истечет указанная продолжительность архивации, то они должны быть снова заархивированы на указанный период времени или уничтожены безопасным способом.
(справочное)
В связи с тем, что трудно добиться консенсуса по универсальной спецификации характеристик качества, в которую вошли бы и относящиеся к оцениваемому объекту подхарактеристики и показатели качества, в требованиях оценки могут быть определены уровни оценки для выбранных характеристик качества.
Уровни оценки должны быть связаны с уровнями целостности программного обеспечения, как это определено в стандарте ИСО/МЭК 15026. Если представленному для оценки программному продукту был присвоен уровень целостности программного обеспечения, то этот уровень целостности программного обеспечения может быть использован для выбора требований оценки. В частности, степень строгости, связанную с уровнем целостности программного обеспечения, допускается использовать в качестве ориентира при выборе методов оценки.
С одной стороны, уровни оценки связаны со значением, присвоенным запрашивающей стороной данной характеристике. Выбранный уровень должен быть значимым по отношению к предполагаемому применению и условиям использования программного продукта (например, условиям безопасности, ограничениям безопасности, экономическим рискам, ограничениям приложения).
С другой стороны, уровень оценки определяет глубину или тщательность оценки с точки зрения применяемых методов оценки и полученных результатов оценки. Следовательно, разные уровни оценки дают и разный уровень доверия к качеству программного продукта. Для каждой характеристики может быть выбран независимо свой уровень.
В настоящем приложении предложены четыре уровня A, B, C и D. Уровни составляют иерархию с высшим уровнем A и низшим - D. На уровне A - самые строгие методы оценки с максимальным уровнем доверия (с учетом разумных усилий и масштаба времени). Снижаясь к уровню D, используются все менее строгие методы, а следовательно, как правило, на оценку затрачивается и меньше усилий.
Для каждой характеристики программного обеспечения уровень оценки может быть разным для различных компонентов большого продукта (например, вполне вероятно, что критические компоненты с высокими требованиями к надежности должны быть отделены от других компонентов системы).
Первый раздел настоящего приложения предлагает рекомендации по выбору уровня оценки в зависимости от контекста использования продукта. Второй раздел поможет выбрать методы оценки.
Уровни оценки могут быть выбраны независимо для каждой из соответствующих характеристик качества. При выборе уровни необходимо рассмотреть несколько аспектов. Например, важными аспектами являются те, которые связаны с техникой безопасности, с экономикой, с безопасностью, с окружающей средой и со сбытом продукции, там, где это применимо.
Для всех соответствующих аспектов для каждой соответствующей характеристики качества должны быть оценены риски и последствия, вызванные несоответствием продукта требованиям, относящимся к этой характеристике, а также преимущества от высокого качества. В приведенных далее таблицах показаны отношения между рисками и выбранными уровнями для некоторых из этих аспектов. При необходимости рассмотрения нескольких аспектов следует выбирать самый строгий уровень.
Стоимость оценки необходимо рассматривать с точки зрения экономических рисков и коммерческой выгоды.
Таблица A.1
Пример уровня оценки для аспектов безопасности
Таблица A.2
Пример уровня оценки для экономических аспектов
Таблица A.3
Пример уровня оценки для аспектов безопасности
Таблица A.4
Пример уровня оценки аспектов окружающей среды
Для разработки спецификации оценки, удовлетворяющей некоторым требованиям оценки, необходимо определить показатели. Показатели базируются на методах оценки, выбранных в соответствии с характеристиками качества и уровнями оценки. В дальнейшем изложении список методов оценки для каждой характеристики качества предлагается располагать в порядке возрастания уровня оценки - от меньшего уровня требований до больших уровней.
Функциональность:
- функциональное тестирование или тестирование методом "черного ящика";
- контроль документации на основании контрольных списков;
- поблочное тестирование с использованием критерия тестового покрытия.
- надежность:
- проверка использования определенных средств языка программирования;
- анализ концепций отказоустойчивости в разработке программного обеспечения и кода;
- моделирование увеличения надежности.
Удобство пользования:
- проверка пользовательского интерфейса и документации;
- проверка соответствия интерфейса стандартам;
- проведение экспериментов с работой реальных пользователей.
Эффективность:
- измерение времени выполнения;
- тестирование производительности;
- анализ разработки для определения алгоритмической сложности.
Пригодность к обслуживанию:
- контроль документации на основании контрольных списков;
- проверка измерений кода и правил программирования;
- анализ прослеживаемости между элементами документации разработки.
Мобильность:
- анализ процедур установки программного обеспечения;
- проверка правил программирования;
- анализ проекта программного обеспечения.
(справочное)
В настоящем приложении приведены примеры методов оценки, которые допускается использовать для оценки качества программного продукта.
B.1 Анализ пользовательской и технической документации по продукту (включая и онлайн-документацию)
Документация по продукту может предоставить всю необходимую информацию чтобы сделать оценку требований функциональности и удобства пользования, а также других аспектов, таких как мобильность и пригодность к обслуживанию. В некоторых случаях есть возможность получить доступ к необходимой документации программного продукта, не прибегая к фактической его покупке, а взяв документацию взаймы или купив только комплект документации. Несмотря на то, что анализ документации программного продукта может оказаться не столь же эффективным, как обучение на курсах или прохождение тренинга, анализ может оказаться самым экономичным способом, если оценщик обладает соответствующими знаниями и опытом.
B.2 Оценка на основе курсов и обучения от поставщика
Для многих программных продуктов или через поставщика, или через третью сторону предлагаются курсы по продукту. Если для программного продукта нет никаких курсов, то в отдельных случаях возможно организовать специальное обучение силами опытных пользователей или разработчиков программного продукта. Преимуществом курсов или тренинга по продукту является то, что они позволяют оценщику сосредоточиться на конкретных аспектах и получить конкретную информацию по функциональности и удобству использования программного продукта за короткий период времени. Вероятно, что ту же информацию возможно получить и посредством анализа документации программного продукта, но такой вариант может оказаться более трудоемким. Дополнительные расходы на курсы или обучение должны быть сопоставлены с эффективностью получения информации и общности учебного материала.
B.3 Оценка процесса программной инженерии
Оценка процессов программной инженерии является средством определения качества программного продукта путем изучения промежуточных продуктов процессов, таких как план качества продукта, спецификации требований, описания архитектуры, описания детального проектирования, листинги кода, протоколы верификации и подтверждения правильности, протоколы проверки кода и тестирования, и т.д. Для достижения этой цели необходимо определить состав приемлемого базового уровня документации для разработки программного обеспечения, который обеспечит достаточную гарантию качества конечной программной продукции.
Чтобы специфицировать необходимые действия разработки и связанной с ним поддержки, приемлемый базовый уровень должен быть определен путем адаптации требований ИСО/МЭК 12207 для соответствия целевому уровню целостности. Для этого определяются:
a) требуемые процессы;
b) требуемую выходную документацию процессов;
c) требования к процессам и выходной документации процессов.
Такая оценка может быть увязана с определением уровня возможностей процессов поставщика, как определено в ИСО/МЭК 15504-2. Для определения процессов и ожидаемых результатов, которые следует применять в соответствии с требованиями уровня целостности программного продукта, можно использовать ИСО/МЭК 12207.
Примечание - Большинство процессов программной инженерии описано в ИСО/МЭК 12207. Процессы жизненного цикла программного обеспечения.
Для систем с высокими требованиями целостности должны быть дополнительные требования к процессам и продуктам из отраслевых стандартов, например, МЭК 880, МЭК 1508, DOA-167A, MOD 55, и т.д.
Далее план "качество/разработка" поставщика и связанные методологические процедуры можно использовать для оценки соответствия поставщика данному целевому базовому уровню. В этом случае уровень соответствия может быть определен путем выявления основных недостатков и оценки их потенциального влияния на качество программного продукта. Влияние недостатков может быть определено с помощью дополнительной оценки или обходных решений.
Следует признать, что существует множество процессов программной инженерии, которые эффективны для конкретных организаций и различных типов программных продуктов. Процесс оценки должен обладать гибкостью, позволяющей согласованно использовать различные практичные процессы и методы программной инженерии.
Анализ программной инженерии рекомендуется проводить поэтапно. Если обнаруживается, что уровень целостности программного обеспечения не требует полной оценки процесса программной инженерии, то анализ может быть завершен после 1-го или 2-го этапа.
B.4 Анализ операционной истории поставщика
Анализ операционной истории поставщика может обеспечить очень эффективное средство определения качества программного продукта. В этом случае анализируются объемы продаж программного продукта, а также детали отраслей и приложений, в которых его используют. В этом анализе рассматриваются также история обновлений программного обеспечения, способы, которыми поддерживаются изменения, то, как рассматриваются сообщения клиентов о недостатках и сведения об известных недостатках. Самый удобный способ для проведения такого анализа - это опрос персонала поставщика по разработке, продаже и поддержке клиентов и изучение любых документов поддержки.
B.4.1 Требования к операционной истории
a) Показатели продаж должны быть за период, предшествующий оценке по крайней мере на 6 мес.; т.е., в число продаж, используемое в оценке, должны войти только те экземпляры, которые проданы более чем 6 мес., предшествующих оценке. Это ограничение основано на том, что для программного продукта может потребоваться до 6 мес. для поставки, инсталляции и ввода в эксплуатацию.
b) Программный продукт должен был пройти через по крайней мере одно существенное обновление. Должны быть доступны данные операционной истории этого обновления. Это требование основано на предположении, что качество программного продукта будет зависеть от количества усовершенствований, которым он был подвергнут.
c) Должны быть средства обратной связи для доставки поставщику отчетов о недостатках от пользователей программного продукта. Кроме того, должны быть свидетельства о получении таких отчетов и реализации исправлений.
B.4.2 Анализ операционной истории
Анализ операционной истории продукта должен определить:
a) было ли программное обеспечение произведено путем модификации другого продукта, и можно ли использовать операционную историю того продукта. Это будет зависеть от числа изменений и степени изменений, внесенных в программный продукт;
b) число единиц-лет (unit-years) для программного продукта, которое вычисляют посредством следующих шагов:
1) вычисляют Год продаж (Sales Year) = (начальные продажи [общий объем продаж за первый год] + кумулятивное конечное общее число до 6 мес. от текущего момента [Предполагается задержка в 6 мес прежде чем продукт станет рабочим]) * (число лет, когда программный продукт находится на рынке)/2;
2) вычисляют единицы-годы (unit-years) работы = (год продаж * рабочий цикл [процент времени, когда программное обеспечение в работающем состоянии * процент единиц фактически в работе [это уместно, например, для прошивок, когда многие единицы аппаратных средств узла находятся в состоянии резерва]);
c) имеются ли свидетельства операционного опыта приемлемой функциональности, требуемой приложениями? Например, используется ли в подобных приложениях других клиентов?;
d) имеются ли свидетельства, что была проверена ширина диапазона функциональности программного продукта? Например, использовался ли он в широком спектре приложений и отраслей?;
e) число единиц - лет (unit-years) работы для каждой версии программного обеспечения и для каждой специальной опции программного продукта;
f) различия между версиями, степень изменений и изолированы ли изменения;
g) имеются ли документальные свидетельства поддержки данных операционной истории;
h) как контролируются и отслеживаются обновления программного продукта и обновления любых связанных с ним аппаратных средств;
i) возможно ли заказать определенную версию программного продукта и последствия заказа версии, которая не является текущей;
j) процесс приема и обработки поставщиком отчетов о недостатках полученных от клиентов;
k) сообщают ли клиентам о недостатках;
l) любые существенные недостатки программного обеспечения и их влияние.
B.5 Анализ операционной истории клиентов
Анализ операционной истории фактических клиентов, которые используют или использовали программный продукт в одном из своих приложений, позволяет оценщику получать относительно беспристрастные ответы на конкретные вопросы на основе реальных эксплуатационных режимов. В зависимости от того, насколько близки приложения потребителя к рассматриваемому приложению, оценка качества, полученная в общем или для определенной функциональности, может быть столь же полезна, как может быть оценка, полученная на базе анализа прототипа или даже обширного тестового использования. Самый удобный способ провести такой анализ - это опрос клиентов на рабочем месте и, возможно, ознакомление с реальными примерами поддержки или соответствующими записями.
Оценщик, проводящий анализ операционной истории клиентов, должен:
a) установить степень подобия приложения(й) с рассматриваемым приложением;
b) попытаться просмотреть программный продукт в работе или получить другие свидетельства поддержки;
c) расспросить клиента о форме и качестве поддержки, предоставленной поставщиком;
d) определить суммарную продолжительность безотказной работы.
B.6 Анализ возможностей поставщика, поддержки и системы качества
При оценке уровня поддержки и возможностей обслуживания программного обеспечения поставщика необходимо рассмотреть:
a) финансовую стабильность, опыт и возможности;
b) поддержку среды разработки продуктов, включая инструменты сборки, используемых операционных систем, обслуживание и использование других объектов компонентов/библиотек;
c) интерфейсы взаимодействия продукта с другими продуктами или группами продуктов, включая стандарты интерфейса;
d) условные участия третьей стороны;
e) достаточную обеспеченность ресурсами для поддержки продукта;
f) достаточную клиентскую базу для обеспечения постоянной поддержки;
g) достаточное сервисное обслуживание для исправлений ошибок и поддержке среды;
h) соответствующие рекомендации на базе установок;
i) формализованные достаточные процедуры выпуска и управления версиями и свидетельства этой практики;
j) формализованное регрессионное тестирование и формальную оценку конструктивных изменений;
k) документированные и работающие процедуры устранения неполадок;
l) систему качества на месте;
m) стандарты, используемые для аппаратного и программного обеспечения;
n) планы будущих разработок, т.е., стратегию на месте по текущему положению на рынке;
o) гарантию на продукт.
B.7 Анализ прототипа и другие методы оценки
B.7.1 Анализ прототипа
Анализ прототипа - метод оценки, который допускается использовать для определения или уточнения требований, определения технических возможностей использования программного продукта или устранения неизвестных или технических рисков, связанных с определенными требованиями функциональности или удобства использования и их реализацией. В прототипах в некоторых случаях может быть реализован полный набор функциональных возможностей программного продукта или соответствие всей совокупности требований для приложения.
Необходимо отметить, что для анализа прототипа зачастую требуется, чтобы поставщик предоставил доступ к специализированному оборудованию, персоналу и документации. При определении возможности выполнения анализа прототипа программного продукта необходимо учитывать материальные затраты, временные факторы и другие аспекты, такие как особые условия окружающей среды или специальных служб.
В дополнение к общим требованиям к оценке анализ прототипа должен:
a) использовать прототипы, которые в достаточной мере соответствуют к оцениваемым требованиям и обеспечивают реалистическое воссоздание и моделирование ключевых операционных параметров;
b) быть документирован в достаточной мере для того повторения третьей стороной;
c) использовать, где это возможно, предысторию - данные предыдущих случаев, подходящие для рассматриваемого приложения.
B.7.2 Другие методы оценки
Методы оценки можно связать с уровнями оценки и характеристиками качества программного обеспечения (см. приложение D). Уровни оценки могут соответствовать уровням целостности для оценки. Дополнительные методы оценки включают в себя следующее:
a) анализ проекта архитектуры программного обеспечения (пригодность к обслуживанию);
b) анализ дерева отказов программного обеспечения (надежность);
c) тестирование программного продукта на базе случайного статистического использования (надежность);
d) динамический анализ кода для проверки правильности синтаксиса и семантики (надежности);
e) анализ рисков проекта программного обеспечения (надежность);
f) анализ спецификации требований к программному обеспечению (функциональность);
g) проверку кода (функциональность);
h) тестирование программного обеспечения методом "черного ящика" (функциональность);
i) тестирование производительности (эффективность);
j) анализ выполнения требований прослеживаемости (пригодность к обслуживанию);
k) моделирование отказов в интерфейсах между компонентами (надежность).
Анализ дерева отказов или анализ рисков проекта программного обеспечения можно использовать для выбора для оценки "критических" программных модулей в сложном программном обеспечении высокой целостности. Такой подход может избавить от необходимости выполнять строгую оценку программного обеспечения, которое не влияет на целостность приложения.
(справочное)
ПРИМЕР РАНЖИРОВАНИЯ РЕНТАБЕЛЬНОСТИ МЕТОДОВ ОЦЕНКИ
В приведенной ниже таблице приводится приблизительное качественное ранжирование относительной эффективности и общей относительной стоимости методов оценки относительно определенных характеристик качества продукта. В данном случае, предполагается, что оценка проводится успешно и до надлежащей степени строгости. Эту таблицу может использовать для выбора целевых входных данных, которые нужно оценить для получения исчерпывающей оценки соответствия характеристик качества продукта определенным в спецификации требованиям к программному обеспечению. По данным оценкам можно оценить общую стоимость оценки продукта.
Таблица C.1
--------------------------------
(справочное)
ПРОГРАММНОЙ ПРОДУКЦИИ И ПРОЦЕССАМИ ЖИЗНЕННОГО ЦИКЛА СИСТЕМ
И ПРОГРАММНОГО ОБЕСПЕЧЕНИЯ
В случае, если оценку выполняют одновременно с разработкой программного продукта, действия и задачи эталонной модели процесса оценки могут выполняться ассоциативно как часть действий и задач процессов жизненного цикла программного обеспечения (ИСО/МЭК 12207) и/или процессов жизненного цикла систем (ИСО/МЭК 15288).
Таблица D.1
Типовые связи эталонной модели оценки программной продукции
с процессами жизненного цикла программного обеспечения
и систем (ИСО/МЭК 12207 и ИСО/МЭК 15288)
Пример возможных ассоциативных действий по оценке продукта:
Установить требования для оценки:
- Цель оценки может быть приведена в соответствие с целями проекта;
- Разработанный план оценки может быть предметом соглашения между приобретателем и поставщиком;
- План оценки может быть приведен в соответствие с процессом управления качеством или адаптирован к нему;
- Требования к оценке, степень покрытия и строгость оценки могут быть определены во время определения требований;
Разработать спецификацию оценки:
Оценка может быть определена путем выбора показателей в процессе планирования действий по измерению
Разработать проект оценки:
- Для разработки оценки программного продукта можно использовать план анализа, интеграцию и тестирование для верификации и подтверждения правильности;
Выполнить оценку:
- Для получения показателей, измеренных значений величин и результатов оценки выполнения оценки можно использовать производительность и результаты анализа, интеграции и тестирования;
Завершить оценку:
- Результаты проверки и/или подтверждения достоверности можно использовать для подготовки и формирования отчета об оценке. Они также, могут быть отправлены потребителям результатов измерений.
(справочное)
Настоящее приложение содержит рекомендации по структуре и содержанию отчета об оценке. В нем кратко изложены требования к отчетности (см. п. 6.7.2). Кроме того, приведена некоторая вспомогательная информация, которую необходимо включить в отчет.
В следующих разделах описано соответствие разделов отчетам об оценке.
E.1 Раздел 1 - Идентификация
Настоящий раздел отчета об оценке содержит идентификационную информацию, относящуюся к выполняемой оценке.
Идентификация оценщика содержит следующую информацию об оценщике:
- название организации оценщика;
- адрес организации оценщика;
- место(а), где была выполнена оценка (если отличается от адреса выше);
- имя человека, ответственного за оценку.
Идентификация отчета об оценке содержит идентификацию отчета:
- уникальный идентификатор отчета (например, порядковый номер);
- число страниц в отчете.
Эта информация должна присутствовать на каждой странице отчета, а каждая страница должна быть однозначно определена, например, посредством номера страницы.
Идентификация запрашивающей стороны и поставщика содержит информацию о запрашивающей стороне оценки и поставщике оцененного программного продукта:
- название организации запрашивающей стороны;
- адрес организации запрашивающей стороны;
- имя поставщика программного продукта (если отличается от указанного выше);
- адрес поставщика программного продукта (если отличается от вышеуказанного адреса).
E.2 Раздел 2 - Требования к оценке
Настоящий раздел отчета об оценке содержит требования к оценке как описано в 6.3. В частности, здесь содержится следующее:
- общее описание предметной области продукта;
- общее описание цели продукта;
- список требований к качеству и информация об оцениваемом продукте, возможно, включая ссылку на характеристики качества и уровни оценки.
E.3 Раздел 3 - Спецификация оценки
Настоящий раздел отчета об оценке содержит спецификацию оценки, как это определено в 6.4. В частности, здесь содержится следующее:
- область применения оценки со ссылкой на описание продукта. В случае, если описание продукта не является общедоступным документом, оно прилагается к отчету;
- перекрестные ссылки между информацией, запрашиваемой в требованиях к оценке и компонентами продукта;
- спецификацию измерений и проверок;
- отображение между спецификацией измерений и проверок и требованиями оценки.
E.4 Раздел 4 - Методы оценки
Настоящий раздел отчета об оценке содержит документацию по методам оценки, используемым для выполнения оценки, как это определено в 6.5. Если метод оценки описан в другом документе, то допускается просто указать ссылку на эту документацию.
Примечание - Обычно, ссылка на метод оценки используется при применении стандартного метода (модуля оценки) или в том случае, если метод является чьей-либо собственностью.
Для каждого метода оценки, перечисленного в настоящем разделе, должна быть представлена идентификация компонентов продукта, для которых метод был применен.
E.5 Раздел 5 - Результаты оценки
Настоящий раздел отчета об оценке содержит результаты оценки как это определено в 6.7. В частности, здесь содержатся:
- сами результаты оценки;
- промежуточные результаты или интерпретация решения в случае необходимости;
- ссылка на используемые результаты при оценке.
(справочное)
И РЕСУРСОВ ДЛЯ ОЦЕНКИ
В настоящем приложении приведены диаграммы входных данных, результатов, ограничений и ресурсов для каждого мероприятия по оценке.
F.1 Определить требования к оценке
На диаграмме показаны входные данные, результаты, ограничения и ресурсы для этого действия.
![]() Рисунок F.1 - Определение требований к оценке
в процессе оценки качества программного продукта
F.2 Определить оценку
На диаграмме показаны входные данные, результаты, ограничения и ресурсы для этого действия.
![]() Рисунок F.2 - Определение оценки в процессе оценки качества
программного продукта
F.3 Разработать оценку
На диаграмме показаны входные данные, результаты, ограничения и ресурсы для этого действия.
![]() Рисунок F.3 - Разработка оценки в процессе оценки
качества программного продукта
F.4 Выполнить оценку
На диаграмме показаны входные данные, результаты, ограничения и ресурсы для этого действия.
![]() Рисунок F.4 - Выполнение оценки в процессе оценки
качества программного продукта
F.5 Завершить оценку
На диаграмме показаны входные данные, результаты, ограничения и ресурсы для этого действия
![]() Рисунок F.5 - Завершение оценки в процессе оценки
качества программного продукта
(справочное)
ССЫЛОЧНЫМ НАЦИОНАЛЬНЫМ СТАНДАРТАМ РОССИЙСКОЙ ФЕДЕРАЦИИ
Таблица ДА.1
--------------------------------
--------------------------------
Вернуться в "Каталог нормативных документов"
Источник информации: https://internet-law.ru/documents/prod/gost-r_gosudarstvennyj-standart/37/gost_13177.html
На правах рекламы:
|
||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||