Рисунок 2 - Пример структуры Организационной
Стратегии Тестирования
В A.2.3 (приложение A) представлен макет Организационной Стратегии Тестирования, а в E.1 и E.2 (приложение E) приведены примеры, которые демонстрируют разные Организационные Стратегии Тестирования для двух различных проектов.
Содержание Организационной Стратегии Тестирования описано ниже.
5.3.2 Спецификация документа
5.3.2.1 Общие сведения
Здесь представлена информация, которая идентифицирует документ и определяет его источники и историю.
Примечание - Если документ хранится в электронной форме, например, в базе данных, то информация может быть помещена в начало или середину документа.
5.3.2.2 Уникальная идентификация документа
Однозначно определяет версию документа.
Пример - Уникальный идентификатор может содержать название документа, дату выпуска, версию и/или состояние документа (например, рассмотренный проект, исправленный или окончательный).
5.3.2.3 Оформляющая организация
Определяет организацию, ответственную за подготовку и выпуск документа. Сюда могут также быть включены имена авторов (автора).
5.3.2.4 Полномочия по утверждению
Идентифицирует назначенное лицо (лиц), которое несет ответственность за рассмотрение и утверждение (подпись) документа (возможно в электронном виде). Сюда могут также быть включены рецензенты и соответствующие менеджеры.
5.3.2.5 История изменений
Сюда входит журнал всех изменений, которые произошли с документом, начиная с момента его создания.
Примеры
1 Сюда может входить список, который содержит текущую версию документа и все предшествующие документы, уникальную идентификацию каждого документа, описание изменений документа относительно предыдущего документа в списке, причины изменений, авторство и роль лица, вносящего изменения.
2 К причинам изменений могут относиться замечания аудита, анализ разработчиков, изменения системы. Лицом, вносящим изменения, может быть автор документа, менеджер проекта, владелец системы.
5.3.3 Введение
Предоставляет разъясняющую информацию о содержании и структуре документа.
5.3.3.1 Область применения
Определяет степень покрытия предметной области документом и указывает все включения, исключения, предположения и/или ограничения.
5.3.3.2 Ссылки
Перечисляет нормативные ссылки и определяет хранилища для систем, программного обеспечения и информации о тестировании. Ссылки могут быть разделены на "внутренние" ссылки организации и "внешние" ссылки, которые не относятся к организации.
Пример - Нормативными документами могут быть политики, планы, процедуры и другое.
5.3.3.3 Глоссарий
Представляет собой словарь терминов, сокращений и аббревиатур, если таковые используются в документе.
Примечание - Этот раздел может быть оформлен как приложение либо может ссылаться на другой документ, обеспечивающий общий глоссарий. Весь глоссарий или его часть и/или список аббревиатур могут быть в составе онлайнового отдельного глоссария по тестированию либо могут быть включены в больший организационный глоссарий, содержащий большое количество терминов, не связанных с тестированием.
5.3.4 Положения Организационной Стратегии Тестирования в масштабах проекта
Стратегия определяется для заданной области применения. В данный раздел включаются положения, подходящие для всех подпроцессов тестирования, которые будут выполняться в данном проекте в рамках стратегии. В этот раздел в случае необходимости могут быть включены подразделы политики.
5.3.4.1 Общий менеджмент рисков
Определяет общий подход к менеджменту рисков, который, как ожидается, будет использован для управления тестированием.
5.3.4.2 Выбор тестирования и приоритетов
Определяет подход организации к выбору теста и приоритетов выполнения теста в виде приоритетных процедур тестирования. Процедуры тестирования состоят из приоритетных контрольных примеров, полученных из приоритетных наборов функций через приоритетные тестовые условия и элементы покрытия.
5.3.4.3 Документация тестирования и создание отчетов
Идентифицирует документы, которые ожидается произвести во время тестирования в рамках всего проекта тестирования. Описывает подготовку каждого документа и соответствующего процесса утверждения. Это тесно связано с определенным в политике процессом тестирования.
5.3.4.4 Автоматизация и инструменты тестирования
Определяет подход к автоматизации тестирования в организации. Идентифицирует инструменты тестирования, которые будут использоваться в Ходе Тестирования.
Пример - Сюда могут входить инструменты управления тестированием, инструменты выполнения теста, инструменты тестирования производительности, инструменты тестирования защищенности, инструменты тестирования удобства пользования.
5.3.4.5 Менеджмент конфигурации рабочих продуктов тестирования
Определяет менеджмент конфигурации, который будет применяться для рабочих продуктов тестирования; определяет, как эти рабочие продукты должны быть идентифицированы, прослеживаться, храниться и обеспечивать доступность для заинтересованных сторон.
5.3.4.6 Управление инцидентами
Определяет, как нужно управлять инцидентами во время тестирования или ссылаются на описание в другом документе.
5.3.4.7 Подпроцессы тестирования
Идентифицирует конкретные подпроцессы тестирования, которые будут выполняться как часть тестирования в рамках стратегии.
5.3.5 Положения организационной стратегии тестирования для конкретных подпроцессов
5.3.5.1 Критерии входа и выхода
Определяет используемые критерии запуска и остановки действий тестирования для конкретного подпроцесса тестирования.
Подпроцесс тестирования состоит из следующих процессов:
- проектирование и реализация тестирования;
- установка и поддержка тестовой среды;
- выполнение теста;
- отчетность об инцидентах тестирования.
Различные критерии входа и выхода могут быть определены для каждого из них индивидуально, или для отдельных отобранных процессов, или для всего подпроцесса в целом.
5.3.5.2 Критерии завершения тестирования
Определяет, когда с точки зрения организации должны быть завершены действия тестирования подпроцесса тестирования.
5.3.5.3 Документация тестирования и создание отчетов
Идентифицирует документирование тестирования, включая создание отчетов, используемое в ходе действий тестирования в подпроцессе тестирования. Определяет, когда должен быть подготовлен каждый документ или отчет, а также соответствующий процесс утверждения. Это тесно связано с определенным в политике процессом тестирования.
5.3.5.4 Степень независимости
Устанавливает уровень независимости лиц, выполняющих тестирование, то есть состояние технической, организационной и финансовой независимости этой группы тестирования.
5.3.5.5 Методика проектирования тестирования
Идентифицирует конкретные методы проектирования тестирования, которые будут использоваться во время разработки и реализации тестирования в подпроцессе тестирования.
5.3.5.6 Тестовая среда
Определяет тестовую среду для подпроцесса тестирования. Может определять, где должны быть выполнены тестирования конкретных типов и идентифицирует группы или организации, ответственные за тестовую среду. Может идентифицировать источник тестовых данных, указать, где расположены определенные типы тестовых данных и какие группы или организации ответственны за тестовые данные.
5.3.5.7 Требуемые метрики
Определяет метрики, значения которых должны быть собраны в ходе действий тестирования в подпроцессе тестирования.
5.3.5.8 Повторное тестирование и регрессионное тестирование
Определяет стратегию, условия и действия повторного тестирования и регрессионного тестирования в подпроцессе тестирования.
Документы, разработанные в процессах управления тестированием, включают в себя следующие:
- План Тестирования;
- Отчет о Ходе Тестирования;
- Отчет о Завершении Тестирования.
Полные шаблоны документов с пояснением приведены ниже. В приложении A представлены краткие общие сведения о каждом документе. В приложениях F и G приведены примеры Планов Тестирования, Отчетов о Ходе Тестирования и Отчетов о Завершении Тестирования для конкретных проектов.
6.2.1 Общие сведения
План Тестирования представляет собой документ для планирования тестирования и управления тестированием. Некоторые из проектов могут иметь один План Тестирования, в то время как для больших проектов может быть создано несколько планов тестирования. Планы Тестирования могут создаваться для ряда проектов (на уровне программы), для единственного проекта (План Тестирования проекта/основной План Тестирования) или для конкретного подпроцесса тестирования (План Тестирования системы, План Тестирования комплексирования программного обеспечения, План Тестирования подсистемы, План Тестирования программного обеспечения субподрядчика, План Тестирования единицы программного обеспечения, план теста производительности или план определенной итерации тестирования). Если создается большое количество Планов Тестирования программного обеспечения, то, чтобы помочь документировать взаимосвязи и информацию, содержащуюся в каждом из них, можно построить дерево отображения.
В Плане Тестирования описаны решения, принятые во время начального планирования, и он развивается, поскольку в составе управляющих действий осуществляется перепланирование.
В A.2.4 (приложение A) представлен макет Плана Тестирования, а в F.1 и F.2 (приложение F) приведены примеры, демонстрирующие разработку Планов Тестирования для двух различных проектов.
Далее приводится содержание Плана Тестирования.
6.2.2 Спецификация документа
6.2.2.1 Общие сведения
Здесь представлена информация, которая идентифицирует документ и определяет его источники и историю.
Примечание - Если документ хранится в электронной форме, например в базе данных, то информация может быть помещена в начало или середину документа.
6.2.2.2 Уникальная идентификация документа
Однозначно определяет версию документа.
Пример - Уникальный идентификатор может содержать название документа, дату выпуска, версию и/или состояние документа (например, рассмотренный проект, исправленный или окончательный).
6.2.2.3 Оформляющая организация
Определяет организацию, ответственную за подготовку и выпуск документа. Сюда могут также быть включены имена авторов (автора).
6.2.2.4 Полномочия по утверждению
Идентифицирует назначенное лицо (лиц), которое несет ответственность за рассмотрение и утверждение (подпись) документа (возможно в электронном виде). Сюда могут также быть включены рецензенты и соответствующие менеджеры.
6.2.2.5 История изменений
Сюда входит журнал всех изменений, которые произошли с документом, начиная с момента его создания.
Примеры
1 Сюда может входить список, который содержит текущую версию документа и все предшествующие документы, уникальную идентификацию каждого документа, описание изменений документа относительно предыдущего документа в списке, причины изменений, авторство и роль лица, вносящего изменения.
2 К причинам изменений могут относиться замечания аудита, анализ разработчиков, изменения системы. Лицом, вносящем изменения, может быть автор документа, менеджер проекта, владелец системы.
6.2.3 Введение
Предоставляет разъясняющую информацию о содержании и структуре документа.
6.2.3.1 Область применения
Определяет степень покрытия предметной области документом и указывает все включения, исключения, предположения и/или ограничения.
6.2.3.2 Ссылки
Перечисляет нормативные ссылки и определяет хранилища для систем, программного обеспечения и информации о тестировании. Ссылки могут быть разделены на "внутренние" ссылки организации и "внешние" ссылки, которые не относятся к организации
Пример - Ссылки на документацию элемента тестирования, относящуюся к конкретному подпроцессу тестирования, могут включать в себя ссылки на:
- требования;
- проект;
- руководство пользователя;
- руководство по работе и/или
- инструкцию по установке.
6.2.3.3 Глоссарий
Представляет собой словарь терминов, сокращений и аббревиатур, если таковые используются в документе.
Примечание - Этот раздел может быть оформлен как приложение или ссылаться на другой документ, обеспечивающий общий глоссарий. Весь глоссарий или его часть и/или список аббревиатур могут быть в составе онлайнового отдельного глоссария по тестированию либо включены в больший организационный глоссарий, содержащий большое количество терминов, не связанных с тестированием.
6.2.4 Контекст тестирования
6.2.4.1 Проект(ы)/подпроцесс(ы) тестирования
Идентифицирует проект(ы) или подпроцесс(ы) тестирования, для которых создается план, и содержит другую соответствующую информацию о контексте.
6.2.4.2 Элемент(ы) тестирования
Определяет элемент(ы) тестирования для тестирования по этому плану, включая их версию/пересмотр или ссылку на эту информацию.
В этом разделе возможно описание назначения элемента(ов) тестирования или приводится ссылка на эту информацию.
Примечание - Эта информация может быть определена в документе, определяющем концепцию работы системы.
Пример - Элементом тестирования может быть программный блок, интерфейс между единицами, подсистема или полная система.
Здесь также могут быть идентифицированы все процедуры переноса элемента(ов) тестирования из других сред в тестовую среду.
6.2.4.3 Область применения тестирования
Обобщает все функции элемента(ов) тестирования, подлежащие проверке. Также идентифицирует все функции элемента(ов) тестирования, которые должны быть исключены из тестирования, и предоставляет обоснования их исключения.
Пример - Функции, подлежащие проверке, могут быть определенными атрибутами программного обеспечения, функций, интерфейсов или бизнес-процессов.
6.2.4.4 Предположения и ограничения
Определяет любые предположения и ограничения для действий тестирования, предусмотренных этим планом. Сюда могут входить нормативные требования, требования Политики Тестирования и Организационной Стратегии Тестирования, договорные требования, сроки проекта, бюджетные ограничения и готовность соответствующего квалифицированного штата, инструментов и/или сред.
6.2.4.5 Заинтересованные стороны
Перечисляет заинтересованные стороны и их отношение к тестированию. Описывает как должен осуществляться обмен информацией с каждой заинтересованной стороной.
6.2.5 Обмен информацией о тестировании
Определяет связи между тестированием и другими действиями жизненного цикла и в организации.
Пример - Сюда могут быть включены полномочия для решения проблем, выявленных в результате действий тестирования, и полномочия для утверждения продуктов и процессов тестирования.
Эта информация может быть представлена в визуальной форме.
Примечание - Визуальное представление может представлять собой организационную схему или диаграмму потоков информации и данных.
6.2.6 Реестр рисков
Идентифицирует риски, которые охватывают тестирование по этому плану. Сюда должны быть включены любые соответствующие риски, которые могут быть определены в Организационной Стратегии Тестирования. Для каждого риска на основе его влияния и вероятности приводится уровень воздействия. Представляет рекомендации по обработке рисков. В этом разделе допускается предоставить ссылку на конкретный реестр рисков.
Пример - Рекомендациями по обработке рисков могут быть: устранить риск, уменьшить его или игнорировать риск.
Примечание - Реестр рисков может быть приведен в плане проекта или плане менеджмента рисков.
6.2.6.1 Риски продукта
Идентифицирует связанные с тестированием риски продукта и предоставляет рекомендации по обработке каждого риска.
Пример - Связанные с тестированием риски продукта могут включать в себя дефекты функциональных или нефункциональных аспектов, таких как производительность.
6.2.6.2 Риски проекта
Идентифицирует связанные с тестированием риски проекта продукта и предоставляет рекомендации по обработке каждого риска.
Пример - Связанные с тестированием риски проекта могут включать в себя риски, связанные с графиком или ресурсами.
6.2.7 Стратегия тестирования
Устанавливает подход к тестированию для определенного проекта тестирования или подпроцесса тестирования, как описано в следующих разделах. Документ может ссылаться на Организационную Стратегию Тестирования, указывая лишь отличия от нее.
6.2.7.1 Подпроцессы тестирования
Для Плана Тестирования проекта определяются надлежащие для выполнения подпроцессы тестирования.
6.2.7.2 Практические результаты тестирования
Идентифицирует все документы, которые должны быть получены в результате выполнения тестирования, или эквивалентную документальную информацию в электронной форме, например, в базах данных либо специализированных инструментах тестирования.
Пример - К результатам тестирования могут относиться следующие документы:
- План Тестирования;
- Спецификация Проекта Тестирования;
- Спецификация Контрольного Примера;
- Спецификация Процедур Тестирования;
- Отчет о Готовности Тестовых Данных;
- Отчет о Готовности Тестовой Среды;
- Отчеты по Инциденту;
- Отчеты о Ходе Тестирования;
- Отчет о Завершении Тестирования.
Входные и выходные данные тестирования могут быть идентифицированы как компоненты результатов тестирования. Кроме того, могут быть включены инструменты тестирования, создаваемые как часть действия тестирования. В случаях объединения или исключения документов этот список соответственно изменяется.
Возможно включение информации о сроках представления документов и об адресате (желательно указывать должность, а не имя).
6.2.7.3 Методика проектирования тестирования
Определяет, какие методы проектирования тестирования должны применяться.
6.2.7.4 Критерии завершения тестирования
Определяет условия, при которых соответствующая организация тестирования предполагает завершение выполнения.
Пример - Это может быть при достижении конкретного покрытия, когда число выявленных дефектов меньше указанного предела.
6.2.7.5 Требуемые метрики
Определяет метрики, значения которых должны быть собраны во время выполнения тестирования.
6.2.7.6 Требования к Тестовым Данным
Определяет все соответствующие Требования к Тестовым Данным для проекта или подпроцесса тестирования (определенным образом).
Пример - Может быть идентифицирован источник тестовых данных и решено, где располагаются определенные тестовые данные, указано должны ли данные быть замаскированы по причинам конфиденциальности и/или перечислены ответственные за тестовые данные.
Определение этих требований к тестовым данным по необходимости может быть отложено до создания документа "Требования к Тестовым Данным" (см. 7.5).
6.2.7.7 Требования к Тестовой Среде
Определяет необходимые и желательные свойства тестовой среды.
Пример - В тестовую среду могут входить аппаратные средства, программное обеспечение, инструменты тестирования, базы данных и персонал (соответственно идентифицируя организации).
Включает в себя информацию о выборе, оценке, приобретении и поддержке каждого инструмента. Сюда также могут входить требования к тестовой среде для подготовки к тестированию, выполнению теста (включая сбор данных) и любых действий после выполнения.
Пример - Действием после выполнения теста может быть анализ данных.
Такие требования к тестовой среде при необходимости могут быть сформулированы позднее в документе "Требования к Тестовой Среде" (см. 7.6), однако ссылка на этот отдельный документ должна присутствовать в Плане Тестирования.
6.2.7.8 Повторное тестирование и регрессионное тестирование
Определяет условия, при которых будут выполняться повторное тестирование и регрессионное тестирование. Сюда может быть включено предполагаемое число циклов тестирования.
6.2.7.9 Критерии приостановки и возобновления
Определяет критерии, используемые для приостановки и возобновления всех или части действий тестирования Плана Тестирования. Определяет, кто ответственен за приостановку и возобновление действий тестирования. Определяет действия тестирования, которые, вероятно, придется повторить при возобновлении тестирования.
6.2.7.10 Отклонения от организационной стратегии тестирования
Должен быть указан каждый пункт Плана Тестирования, в котором имеются отклонения от Организационной Стратегии Тестирования. Когда это применимо, определяет лиц, ответственных за утверждение отклонений.
6.2.8 Действия и оценка тестирования
Определяет все необходимые действия тестирования на базе процесса тестирования, который будет использоваться. Необходимо рассмотреть итеративную стратегию действий при повторном выполнении тестирования, а также все зависимости.
Примечание - Действия тестирования могут быть описаны в терминах структурной схемы работ по операциям или карты действий в динамичных проектах.
Пример - Действия, которые могут быть рассмотрены, включают в себя и те из них, которые относятся к повторному тестированию и регрессионному тестированию.
Определяет оценку для каждого из идентифицированных действий тестирования, которые в соответствии с планом тестирования будут выполняться как часть тестирования. Кроме того, в соответствующих случаях описывает выделенные на тестирование бюджетные сметы расходов или представляет ссылку на эту информацию.
Примечание - Бюджетные сметы расходов могут быть приведены в плане проекта.
6.2.9 Комплектность персонала
Определяет требования к комплектности персонала для тестирования, соответствующего этому плану.
6.2.9.1 Роли, действия и ответственность
Обеспечивает общие сведения об основном персонале (лидерах деятельности) и вторичном персонале (не лидерах, а персонале поддержки) - лицах, исполняющих связанные с тестированием роли, с их соответствующими действиям тестирования ответственностями и полномочиями. Кроме того, определяет ответственных за предоставление элемента(ов) тестирования. Люди могут быть заняты полностью или частично.
Пример - К ответственным лицам могут быть отнесены менеджер проекта, менеджеры тестирования, разработчики, аналитики и исполнители тестирования, обслуживающий персонал, представители пользователя, персонал технической поддержки, администраторы данных и персонал поддержки качества.
В случае необходимости для каждого занятого тестированием лица должен быть определен период(ы).
6.2.9.2 Потребность в дополнительном персонале
Определяет конкретные потребности в дополнительных сотрудниках для тестирования, требуемых для проекта или подпроцесса тестирования. Указывает, когда сотрудники необходимы (временно, на полный или неполный рабочий день), и определяет желаемый набор навыков. Это может быть записано в контракте и бизнес-требованиях.
Примечание - Комплектность персонала может быть обеспечена внутренними переводами, наймом извне, консультантами, субподрядчиками, деловыми партнерами и/или аутсорсингом.
6.2.9.3 Потребность в обучении
Определяет для тестирования потребность в обучении и идентифицирует уровни квалификации и варианты обучения для обеспечения нужного персонала необходимыми навыками.
Пример - Обучение может иметь разные формы, включая такие варианты, как традиционное обучение в классе, рассчитанное на индивидуальную скорость обучения, компьютерное обучение, обучение через Интернет, посещение будущего сайта пользователя и наставничество более опытных сотрудников.
6.2.10 Расписание
Идентифицирует этапы тестирования, определенные в графике проектных работ и в стратегии тестирования. Предоставляет обобщенное полное расписание действий тестирования, определяя, когда по результатам действия необходимо вернуться к процессам разработки, организационным и вспомогательным процессам. Определяет расписание для каждого действия тестирования и каждого этапа тестирования на основе оценки действия, имеющихся ресурсов и других ограничений.
Пример - Вспомогательными процессами могут быть процессы обеспечения качества и менеджмента конфигурации.
6.3.1 Общие сведения
Отчет о Ходе Тестирования предоставляет информацию о состоянии тестирования, выполненного за определенный отчетный период времени.
Примечание - В случае динамичного проекта Отчет о Ходе Тестирования может быть в форме, отличной от печатного документа. Например, его содержание может обсуждаться на итеративных встречах и дополняться информацией, хранящейся в картах действий и диаграммах выполнения задач.
В A.2.5 (приложение A) представлен макет Отчета о Ходе Тестирования, а в G.1 и G.2 (приложение G) приводятся примеры создания Отчетов о Ходе Тестирования для двух различных проектов.
Содержание Отчета о Ходе Тестирования представлено ниже.
6.3.2 Спецификация документа
6.3.2.1 Общие сведения
Здесь представлена информация, которая идентифицирует документ и определяет его источники и историю.
Примечание - Если документ хранится в электронной форме, например, в базе данных, то информация может быть помещена в начало или середину документа.
6.3.2.2 Уникальная идентификация документа
Однозначно определяет версию документа.
Пример - Уникальный идентификатор может содержать название документа, дату выпуска, версию и/или состояние документа (например, рассмотренный проект, исправленный или окончательный).
6.3.2.3 Оформляющая организация
Определяет организацию, ответственную за подготовку и выпуск документа. Сюда могут также быть включены имена авторов (автора).
6.3.2.4 Полномочия по утверждению
Идентифицирует назначенное лицо (лиц), которое несет ответственность за рассмотрение и утверждение (подпись) документа (возможно в электронном виде). Сюда могут также быть включены рецензенты и соответствующие менеджеры.
6.3.2.5 История изменений
Включает журнал всех изменений, которые произошли с документом, начиная с его начала.
Примеры
1 Сюда может входить список, который содержит текущую версию документа и все предшествующие документы, уникальную идентификацию каждого документа, описание изменений документа относительно предыдущего документа в списке, причины изменений, авторство и роль лица, вносящего изменения.
2 К причинам изменений могут относиться замечания аудита, анализ разработчиков, изменения системы. Лицом, вносящим изменения, может быть автор документа, менеджер проекта, владелец системы.
6.3.3 Введение
Предоставляет разъясняющую информацию о содержании и структуре документа.
6.3.3.1 Область применения
Определяет степень покрытия предметной области документом и указывает все включения, исключения, предположения и/или ограничения.
6.3.3.2 Ссылки
Перечисляет нормативные ссылки и определяет хранилища для систем, программного обеспечения и информации о тестировании. Ссылки могут быть разделены на "внутренние" ссылки организации и "внешние" ссылки, которые не относятся к организации.
6.3.3.3 Глоссарий
Представляет собой словарь терминов, сокращений и аббревиатур, если таковые используются в документе.
Примечание - Этот раздел может быть оформлен как приложение или в нем могут содержаться ссылки на другой документ, обеспечивающий общий глоссарий. Весь глоссарий или его часть и/или список аббревиатур могут быть в составе онлайнового отдельного глоссария по тестированию либо могут быть включены в больший организационный глоссарий, содержащий большое количество терминов, не связанных с тестированием.
6.3.4 Ход тестирования
Предоставляет информацию о состоянии тестирования в течение отчетного периода.
6.3.4.1 Отчетный период
Определяет период времени, охваченный отчетом.
6.3.4.2 Прогресс относительно Плана Тестирования
Определяет прогресс выполнения Плана тестирования. Должны быть отмечены любые заметные отклонения от плана с объяснениями причин отклонения, описанием любых восстановительных действий, учетом влияния и анализа последствий для запланированных целей проекта.
6.3.4.3 Факторы, блокирующие прогресс
Идентифицирует факторы, препятствовавшие прогрессу в течение отчетного периода, и соответствующие реализованные решения их устранения. Должны быть документированы выясненные (нерешенные) проблемы, все еще препятствующие прогрессу, и определены возможные решения.
6.3.4.4 Показатели тестирования
Представляет собранные за отчетный период показатели тестирования.
Пример - Сюда могут входить показатели контрольных примеров, дефектов, инцидентов, тестового покрытия, прогресса и потребления ресурсов.
6.3.4.5 Новые и измененные риски
Перечисляет новые риски, которые были идентифицированы в результате мониторинга и управления тестированием, а также изменения в существующих рисках в течение отчетного периода.
6.3.4.6 Запланированное тестирование
Определяет тестирование, запланированное для следующего отчетного периода.
6.4.1 Общие сведения
Отчет о Завершении Тестирования предоставляет собой сводку выполненного тестирования. Отчет может быть для проекта/программы в целом или для определенного подпроцесса тестирования.
В A.2.6 (приложение A) представлен макет Отчета о Завершении Тестирования, а в H.1 и H.2 (приложение H) приведены примеры создания Отчетов о Завершении Тестирования для двух различных проектов.
Содержание Отчета о Завершении Тестирования представлено ниже.
6.4.2 Спецификация документа
6.4.2.1 Общие сведения
Здесь представлена информация, которая идентифицирует документ и определяет его источники и историю.
Примечание - Если документ хранится в электронной форме, например, в базе данных, то информация может быть помещена в начало или середину документа.
6.4.2.2 Уникальная идентификация документа
Однозначно определяет версию документа.
Пример - Уникальный идентификатор может содержать название документа, дату выпуска, версию и/или состояние документа (например, рассмотренный проект, исправленный или окончательный).
6.4.2.3 Оформляющая организация
Определяет организацию, ответственную за подготовку и выпуск документа. Сюда могут также быть включены имена авторов (автора).
6.4.2.4 Полномочия по утверждению
Идентифицирует назначенное лицо (лиц), которое несет ответственность за рассмотрение и утверждение (подпись) документа (возможно в электронном виде). Сюда также могут быть включены рецензенты и соответствующие менеджеры.
6.4.2.5 История изменений
Здесь представлен журнал всех изменений, которые произошли с документом, начиная с момента его создания.
Примеры
1 Сюда может входить список, который содержит текущую версию документа и все предшествующие документы, уникальную идентификацию каждого документа, описание изменений документа относительно предыдущего документа в списке, причины изменений, авторство и роль лица, вносящего изменения.
2 К причинам изменений могут относиться замечания аудита, анализ разработчиков, изменения системы. Лицом, вносящим изменения, может быть автор документа, менеджер проекта, владелец системы.
6.4.3 Введение
Предоставляет разъясняющую информацию о содержании и структуре документа.
6.4.3.1 Область применения
Определяет степень покрытия предметной области документом и указывает все включения, исключения, предположения и/или ограничения.
6.4.3.2 Ссылки
Перечисляет нормативные ссылки и определяет хранилища для систем, программного обеспечения и информации о тестировании. Ссылки могут быть разделены на "внутренние" ссылки организации и "внешние" ссылки, которые не относятся к организации.
6.4.3.3 Глоссарий
Представляет собой словарь терминов, сокращений и аббревиатур, если таковые используются в документе.
Примечание - Этот раздел может быть оформлен как приложение или в нем могут содержаться ссылки на другой документ, обеспечивающий общий глоссарий. Весь глоссарий или его часть и/или список аббревиатур могут быть в составе онлайнового отдельного глоссария по тестированию либо включены в больший организационный глоссарий, содержащий большое количество терминов, не связанных с тестированием.
6.4.4 Выполненное тестирование
Предоставляет описание выполненного тестирования.
6.4.4.1 Сводка выполненного тестирования
Суммирует в области применения этого отчета тестирование, выполненное в проекте и/или в подпроцессах тестирования.
Предоставляет подробную информацию о том, что было проверено и описывает все ограничения для выполнения тестирования.
Пример - Сюда могут входить ограничения на готовность тестовой среды.
6.4.4.2 Отклонения от Плана Тестирования
Описывает отклонения от Плана Тестирования, если таковые имеются. Для всех рисков, которые вызываются отклонениями тестирования, этот раздел может также ссылаться на раздел по остаточным рискам и их соответствующей обработке.
6.4.4.3 Оценка завершения тестирования
Определяет степень удовлетворения заданным критериям завершения тестирования и, по необходимости, объясняет, почему критерии не были достигнуты. Для всех рисков, которые вызываются не достижением критериев завершения, этот раздел может также ссылаться на раздел по остаточным рискам и их соответствующей обработке.
6.4.4.4 Препятствующие факторы
Описывает препятствующие прогрессу факторы и соответствующие решения, реализованные для их устранения.
6.4.4.5 Показатели тестирования
Представляет сопоставленные показатели тестирования.
Пример - Сюда могут входить показатели для контрольных примеров, дефектов, инцидентов, тестового покрытия, прогресса действия и потребления ресурсов.
6.4.4.6 Остаточные риски
Перечисляет риски, которые по завершении тестирования остались необработанными. Это могут быть риски, которые не были полностью обработаны тестированием и/или любые новые риски, идентифицированные в результате заключительного мониторинга и закрытия тестирования.
6.4.4.7 Практические результаты тестирования
Список всех результатов тестирования, полученных в результате тестовых испытаний, и их местонахождение.
Пример - Сюда могут входить План Тестирования, Спецификации Контрольных Примеров и Спецификации Процедур Тестирования.
6.4.4.8 Активы тестирования, допускающие повторное использование
Списки всех допускающих повторное использование активов тестирования и их местонахождение.
Пример - Сюда могут входить процедуры тестирования и тестовые данные, которые были произведены в результате тестовых испытаний.
6.4.4.9 Накопленный опыт
Результаты обсуждения накопленного опыта.
Документы, разработанные в процессах динамического тестирования, разделяются на две категории:
- Спецификацию тестирования, в которую входят:
- Спецификация Проекта Тестирования;
- Спецификация Контрольных Примеров;
- Спецификация Процедур Тестирования;
Примечание - Это могут быть отдельные документы или отдельные главы Спецификации тестирования, а в зависимости от размера и характера проекта тестирования могут быть и главами проекта.
- Требования к Тестовым Данным;
- Требования к Тестовой Среде;
- Отчет о Готовности Тестовых Данных;
- Отчет о Готовности Тестовой Среды.
- Документацию выполнения теста, в которую входят:
- фактические результаты;
- практические результаты тестирования;
- Журнал Выполнения Теста;
- Отчет об Инцидентах.
Полные шаблоны документов с пояснением приводятся далее. В приложении A представлены схемы всех документов. В приложениях с I до S приведены примеры документации процесса динамического тестирования для организации.
Примечание - Существует множество стилей и названий документации, например, в динамичной разработке списки сеансов и главы с идеями тестирования. Предполагается, что при адаптированном соответствии, определенном в 2.2.2, названия документов могут быть изменены. Можно представить соответствие названий. В приложениях к настоящему стандарту приводятся примеры двух различных типов проекта с возможностью адаптации имен. В приложениях не приведены все возможные названия, форматы документов и методы тестирования. Назначение приложений - показать некоторые возможные варианты.
7.2.1 Общие сведения
Спецификация Проекта Тестирования определяет функции, которые будут проверяться, и тестовые условия, полученные из базиса тестирования для каждой из функций в качестве первого шага для определения контрольных примеров и процедур тестирования, которые будут выполняться.
В A.2.7 (приложение A) представлен макет Спецификации Проекта Тестирования, а в I.1 и I.2 (приложение I) приводятся примеры, демонстрирующие, как для двух различных проектов могут быть разработаны Спецификации Проектов Тестирования.
Содержание Спецификации Проекта Тестирования представлено ниже.
7.2.2 Спецификация документа
7.2.2.1 Общие сведения
Здесь представлена информация, которая идентифицирует документ и определяет его источники и историю.
Примечание - Если документ хранится в электронной форме, например, в базе данных, то информация может быть помещена в начало или середину документа.
7.2.2.2 Уникальная идентификация документа
Однозначно определяет версию документа.
Пример - Уникальный идентификатор может содержать название документа, даты выпуска, версии и/или состояния документа (например, рассмотренный проект, исправленный или окончательный).
7.2.2.3 Оформляющая организация
Определяет организацию, ответственную за подготовку и выпуск документа. Сюда могут также быть включены имена авторов (автора).
7.2.2.4 Полномочия по утверждению
Идентифицирует назначенное лицо (лиц), которое несет ответственность за рассмотрение и утверждение (подпись) документа (возможно в электронном виде). Сюда также могут быть включены рецензенты и соответствующие менеджеры.
7.2.2.5 История изменений
Сюда входит журнал всех изменений, которые произошли с документом, начиная с момента его создания.
Примеры
1 Сюда может входить список, который содержит текущую версию документа и все предшествующие документы, уникальную идентификацию каждого документа, описание изменений документа относительно предыдущего документа в списке, причины изменений, авторство и роль лица, вносящего изменения.
2 К причинам изменений могут относиться замечания аудита, анализ разработчиков, изменения системы. Лицом, вносящим изменения, может быть автор документа, менеджер проекта, владелец системы.
7.2.3 Введение
Предоставляет разъясняющую информацию о содержании и структуре документа.
7.2.3.1 Область применения
Определяет степень покрытия предметной области документом и указывает все включения, исключения, предположения и/или ограничения.
7.2.3.2 Ссылки
Перечисляет нормативные ссылки и определяет хранилища для систем, программного обеспечения и информации о тестировании. Ссылки могут быть разделены на "внутренние" ссылки организации и "внешние" ссылки, которые не относятся к организации.
7.2.3.3 Условные обозначения
Определяет и объясняет все схемы идентификации или нумерации, используемые в наборах тестов и тестовых условиях, если это не определено в другом документе.
Примечание - Это может быть помещено в Плане Менеджмента Конфигурации.
7.2.3.4 Глоссарий
Представляет собой словарь терминов, сокращений и аббревиатур, если таковые используются в документе.
Примечание - Этот раздел может быть оформлен как приложение или в нем могут содержаться ссылки на другой документ, обеспечивающий общий глоссарий. Весь глоссарий или его часть и/или список аббревиатур могут быть в составе онлайнового отдельного глоссария по тестированию либо включены в больший организационный глоссарий, содержащий большое количество терминов, не связанных с тестированием.
7.2.4 Наборы функций
7.2.4.1 Общие сведения
Набор функций - это логическая группа функций, которые будут проверены в элементах тестирования в соответствии с Планом Тестирования. Функции, которые будут проверены, могут представлять собой один набор функций или множество наборов функций, возможно, расположенных в порядке иерархии. Наборы функций могут непосредственно соответствовать архитектуре элемента(ов) тестирования или отличаться, если это обеспечивает более эффективное тестирование. Набор функций может также быть бизнес-процессом, который состоит из ряда функций. В последующих действиях проекта тестирования каждый набор функций может быть обработан независимо от других наборов функций.
Наборы функций могут быть описаны в виде списков или таблиц в отдельном документе либо в составе инструмента.
Пример - Наборы функций могут храниться в базе данных или специализированном инструменте тестирования.
Содержание описания набора функций представлено ниже.
7.2.4.2 Уникальный идентификатор
Определяет уникальный идентификатор для набора функций, такой, чтобы он отличался от идентификатора любого другого набора функций. Генерацию идентификаторов может производить автоматизированный инструмент или это можно сделать вручную согласно соответствующей схеме нотации. Поскольку уникальный идентификатор используется для прослеживаемости, то он не должен меняться на протяжении времени жизни набора функций.
7.2.4.3 Цель
Определяет и кратко описывает особый акцент или цель набора функций.
7.2.4.4 Приоритет
Определяет при необходимости приоритет тестирования определенного набора функций.
7.2.4.5 Конкретная стратегия
Определяет реализацию стратегии тестирования набора функций.
Пример - Сюда в случае необходимости могут войти конкретные методы, использованные при проектировании тестирования, определенные в соответствующем Плане Тестирования.
7.2.4.6 Прослеживаемость
Перечисляет ссылки на соответствующие функции базиса тестирования.
Примечание - Прослеживаемость может быть документирована в Матрице Прослеживаемости Тестирования или заложена в инструмент.
Пример - Функции могут представлять собой требования и/или описания разработки.
7.2.5 Тестовые условия
7.2.5.1 Общие сведения
Обобщает тестовые условия для набора функций. Тестовое условие - отдельный элемент или событие, определенные в базисе тестирования, которые могут быть проверены одним или несколькими контрольными примерами.
Примечание - Тестовое условие может представлять собой простую ссылку на требование (если требование выражено поддающимся проверке способом, то есть если в него входит идентифицируемый критерий допустимости) или на текст проекта. Тестовое условие может также быть перефразированием требования, набором требований или описанием конструкции, созданной для тестирования, например, суммированием нескольких требований в модели таблицы решений или в модели состояния.
Этот раздел Спецификации Проекта Тестирования может быть оформлен таким образом, чтобы тестовые условия были перечислены под соответствующими наборами функций.
Примечание - Тестовые условия могут быть определены в виде списков или таблиц в документе или в используемом инструменте, например, в базе данных или специализированном инструменте тестирования. Тестовые условия формально документируются не всегда, поскольку их можно рассматривать как первый проект элементов тестового покрытия и/или контрольных примеров.
Содержание описания тестовых условий представлено ниже.
7.2.5.2 Уникальный идентификатор
Определяет уникальный идентификатор для тестового условия - такой, чтобы он отличался от идентификатора любого другого тестового условия. Генерацию идентификаторов может производить автоматизированный инструмент или это можно сделать вручную согласно соответствующей схеме нотации. Поскольку уникальный идентификатор используется для прослеживаемости, то он не должен меняться на протяжении времени жизни тестового условия.
Если количество или волатильность тестовых условий настолько высоки, что требования уникальности идентификаторов становятся непрактичными, то для прослеживаемости между контрольными примерами и тестовыми условиями вместо этого используются другие средства, обычно на базе автоматизированных инструментов.
7.2.5.3 Описание
Определяет тестовое условие, которое может быть проверено. Оно может быть записано на естественном языке и/или, по необходимости, выражено в виде табличной или графической модели. Может представлять собой простую ссылку на требование, которое является тестовым условием.
7.2.5.4 Приоритет
Определяет приоритет тестирования данного конкретного тестового условия в наборе функций. Тестовые условия с высоким приоритетом будут проверяться раньше и более экстенсивно, чем тестовые условия с приоритетом ниже.
7.2.5.5 Прослеживаемость
Определяет прослеживаемость с набором функций или предоставляет список ссылок на соответствующие требования и/или описание конструкции в базисе тестирования. Может быть документировано в Матрице Прослеживаемости Тестирования.
7.3.1 Общие сведения
Спецификация Контрольных Примеров определяет элементы тестового покрытия и соответствующие контрольные примеры, полученные из базиса тестирования для одного или более наборов функций.
В A.2.8 (приложение A) представлен макет Спецификации Контрольных Примеров, а в J.1 и J.2 (приложение J) приводятся примеры двух различных проектов, в которых показано, как могут быть разработаны Спецификации Контрольных Примеров.
Содержание Спецификации Контрольных Примеров представлено ниже.
7.3.2 Спецификация документа
7.3.2.1 Общие сведения
Здесь представлена информация, которая идентифицирует документ и определяет его источники и историю.
Примечание - Если документ хранится в электронной форме, например, в базе данных, то информация может быть помещена в начало или середину документа.
7.3.2.2 Уникальная идентификация документа
Однозначно определяет версию документа.
Пример - Уникальный идентификатор может содержать название документа, дату выпуска, версию и/или состояние документа (например, рассмотренный проект, исправленный или окончательный).
7.3.2.3 Оформляющая организация
Определяет организацию, ответственную за подготовку и выпуск документа. Сюда могут также быть включены имена авторов (автора).
7.3.2.4 Полномочия по утверждению
Идентифицирует назначенное лицо (лиц), которое несет ответственность за рассмотрение и утверждение (подпись) документа (возможно в электронном виде). Сюда также могут быть включены рецензенты и соответствующие менеджеры.
7.3.2.5 История изменений
Сюда входит журнал всех изменений, которые произошли с документом, начиная с момента его создания.
Примеры
1 Сюда может входить список, который содержит текущую версию документа и все предшествующие документы, уникальную идентификацию каждого документа, описание изменений документа относительно предыдущего документа в списке, причины изменений, авторство и роль лица, вносящего изменения.
2 К причинам изменений могут относиться замечания аудита, анализ разработчиков, изменения системы. Лицом, вносящим изменения, может быть автор документа, менеджер проекта, владелец системы.
7.3.3 Введение
Предоставляет разъясняющую информацию о содержании и структуре документа.
7.3.3.1 Область применения
Определяет степень покрытия предметной области документом и указывает все включения, исключения, предположения и/или ограничения.
7.3.3.2 Ссылки
Перечисляет нормативные ссылки и определяет хранилища для систем, программного обеспечения и информации о тестировании. Ссылки могут быть разделены на "внутренние" ссылки организации и "внешние" ссылки, которые не относятся к организации.
7.3.3.3 Условные обозначения
Определяет и объясняет любую идентификацию или нумерации, необходимые для элементов тестового покрытия и контрольных примеров, если это не определено в другом месте.
Примечание - Может быть размещено в Плане Менеджмента Конфигурации.
7.3.3.4 Глоссарий
Представляет собой словарь терминов, сокращений и аббревиатур, если таковые используются в документе.
Примечание - Этот раздел может быть оформлен как приложение или в нем могут содержаться ссылки на другой документ, обеспечивающий общий глоссарий. Весь глоссарий или его часть и/или список аббревиатур могут быть в составе онлайнового отдельного глоссария по тестированию либо включены в больший организационный глоссарий, содержащий большое количество терминов, не связанных с тестированием.
7.3.4 Элементы тестового покрытия
7.3.4.1 Общие сведения
Обобщает элементы тестового покрытия для тестовых условий. Элементы тестового покрытия получаются путем применения методики проектирования тестирования к тестовому условию.
Пример - Разбиение эквивалентности определяет элементы тестового покрытия с точки зрения действительных и недопустимых разделов эквивалентности.
Этот раздел Спецификации Контрольных Примеров может быть оформлен в виде списков элементов тестового покрытия под соответствующими наборами функций и/или тестовыми условиями.
Примечание - Элементы тестового покрытия могут быть определены в виде списков или таблиц в документе либо в используемом инструменте, например, в базе данных или специализированном инструменте тестирования. Элементы тестового покрытия формально документируются не всегда, поскольку их можно рассматривать как проект контрольных примеров.
Содержание описания элемента тестового покрытия приводится далее.
7.3.4.2 Уникальный идентификатор
Определяет уникальный идентификатор для элемента тестового покрытия такой, чтобы его можно было отличить от идентификаторов всех других элементов тестового покрытия. Генерацией идентификаторов может управлять автоматизированный инструмент или это может быть сделано вручную соответственно применяемой схеме нотации. Уникальный идентификатор не должен быть изменен в течение времени жизни элемента тестового покрытия, потому что он необходим для обеспечения прослеживаемости.
Если количество или волатильность тестовых условий настолько высоки, что требования уникальности идентификаторов становятся непрактичными, то для прослеживаемости между контрольными примерами и тестовыми условиями вместо таких идентификаторов используются другие средства, обычно на базе автоматизированных инструментов.
7.3.4.3 Описание
Определяет элемент тестового покрытия, который, как ожидается, будет охвачен контрольным примером в соответствии с методикой проектирования тестирования, использованной для его получения. Сюда может также быть включена дополнительная информация об элементе покрытия.
Пример - Является ли раздел эквивалентности действительным или недействительным разделом.
7.3.4.4 Приоритет
Определяет в случае необходимости приоритет тестирования конкретного элемента тестового покрытия в тестовом условии. Элементы тестового покрытия с более высоким приоритетом будут проверяться раньше элементов тестового покрытия с приоритетами ниже.
7.3.4.5 Прослеживаемость
Определяет прослеживаемость с тестовыми условиями либо набором функций, к которому принадлежит элемент тестового покрытия, или же предоставляет список ссылок на соответствующий базис тестирования. Может быть документировано в Матрице Прослеживаемости Тестирования.
Пример - Базис тестирования может представлять собой требования или конструкцию.
7.3.5 Контрольные примеры
7.3.5.1 Общие сведения
Определяет контрольные примеры, полученные из элементов тестового покрытия. Контрольный пример показывает, как осуществляются один или несколько элементов тестового покрытия, чтобы помочь определить корректность реализации элемента тестирования.
Число контрольных примеров, полученных из элементов тестового покрытия, будет зависеть от критерия тестового покрытия, определенного в Плане Тестирования.
Этот раздел Спецификации Проекта Тестирования может быть оформлен таким образом, чтобы контрольные примеры были перечислены под соответствующими наборами функций и/или тестовыми условиями.
Примечание - Контрольные примеры могут быть определены в виде списков либо таблиц в документе или в используемом инструменте, например, в базе данных или специализированном инструменте тестирования.
Содержание описания контрольного примера приводится ниже.
7.3.5.2 Уникальный идентификатор
Определяет уникальный идентификатор для контрольного примера - такой, чтобы его можно было отличить от идентификаторов всех других контрольных примеров. Генерацией идентификаторов может управлять автоматизированный инструмент или это может быть сделано вручную соответственно применяемой схеме нотации. Уникальный идентификатор не должен быть изменен в течение времени жизни контрольного примера, потому что он необходим для обеспечения прослеживаемости.
7.3.5.3 Цель
Определяет и кратко описывает особый акцент или цель контрольного примера. Это обычно оформляется в заголовке.
7.3.5.4 Приоритет
Определяет в случае необходимости приоритет тестирования данного конкретного контрольного примера. Контрольные примеры с высоким приоритетом будут выполнены раньше контрольных примеров с приоритетом ниже.
7.3.5.5 Прослеживаемость
Определяет прослеживаемость с элементом тестового покрытия, который реализуется контрольным примером, или предоставляет список ссылок на соответствующие требования либо описание конструкции в базисе тестирования. Может быть документировано в Матрице Прослеживаемости Тестирования.
7.3.5.6 Исходные условия
Определяет требуемое состояние тестовой среды и любые специальные ограничения, имеющие отношение к выполнению контрольного примера.
Пример - Состояние, в котором должен быть элемент тестирования перед запуском выполнения, включая наличие конкретных тестовых данных и текущих активных форм или экранов.
Исходные условия могут быть заданы явно или представлять собой ссылки на другие контрольные примеры, при выполнении которых будут установлены исходные условия.
Необходимые условия могут быть описаны для одного или более наборов функций. Они могут быть не представлены в этой спецификации, если достаточно их описания в Плане Тестирования.
7.3.5.7 Входы
Определяет каждое действие, требуемое для приведения элемента тестирования в состояние, при котором ожидаемые результаты можно сравнить с фактическими результатами. Описание подробностей должно быть соответственно адаптировано к уровню подготовки исполнителей тестирования.
Примечание - Это может потребовать предоставления для элемента тестирования входных данных и/или событий, например нажатия кнопок. Некоторые входные данные могут быть определены значениями, а другие - наименованиями. Необходимо учесть таблицы констант, файлы транзакций, базы данных, файлы, терминальные сообщения, резидентные области и значения, переданные операционной системой.
Должны быть описаны все требуемые отношения между входными событиями.
Пример - Отношение может быть синхронизацией.
Действия, в случае необходимости, могут быть пронумерованы в контрольном примере.
7.3.5.8 Ожидаемые результаты
Определяет ожидаемые выходные данные и поведение элемента тестирования, требуемые в ответ на входные данные, поступившие в элемент тестирования в состоянии исходных условий. Представляет ожидаемые величины (с допусками, где это необходимо) для всех требуемых выходов.
Пример - Требуемое поведение элемента тестирования может быть временем отклика.
Здесь также могут быть определены действия, необходимые для сравнения ожидаемых результатов с фактическими. Например, анализ выхода в поле, не активное после поступления входных данных, ожидание запуска пакетного задания, распечатки и анализа отчета или закрытие элемента тестирования и его перезапуск для анализа сохраненных данных.
7.3.5.9 Фактические результаты и результат тестирования
В описание контрольного примера могут быть включены пустые поля для записи фактических результатов и/или результата выполнения контрольного примера. Кроме того, такие поля могут также быть внесены в Спецификацию Процедур Тестирования (см. 7.4), или раздельно в Фактические результаты (см. 7.9), и/или в результат тестирования (см. 7.10).
7.4.1 Общие сведения
Спецификация Процедур Тестирования представляет в порядке выполнения контрольные примеры в заданных наборах тестов вместе со всеми соответствующими действиями, которые могут потребоваться для установки начальных исходных условий, и всеми необходимыми действиями после выполнения примеров.
Примечание - Процедуры тестирования могут быть определены в виде списков или таблиц в документе или в используемом инструменте, например, в базе данных или специализированном инструменте тестирования.
В A.2.9 (приложение A) представлен макет Спецификации Процедур Тестирования, а в K.1 и K.2 (приложение K) приводятся примеры двух различных проектов, в которых показано, как могут быть разработаны Спецификации Процедур Тестирования.
Содержание Спецификации Процедур Тестирования представлено далее.
7.4.2 Спецификация документа
7.4.2.1 Общие сведения
Здесь представлена информация, которая идентифицирует документ и определяет его источники и историю.
Примечание - Если документ хранится в электронной форме, например, в базе данных, то информация может быть помещена в начало или середину документа.
7.4.2.2 Уникальная идентификация документа
Однозначно определяет версию документа.
Пример - Уникальный идентификатор может содержать название документа, дату выпуска, версию и/или состояние документа (например, рассмотренный проект, исправленный или окончательный).
7.4.2.3 Оформляющая организация
Определяет организацию, ответственную за подготовку и выпуск документа. Сюда также могут быть включены имена авторов (автора).
7.4.2.4 Полномочия по утверждению
Идентифицирует назначенное лицо (лиц), которое несет ответственность за рассмотрение и утверждение (подпись) документа (возможно в электронном виде). Сюда также могут быть включены рецензенты и соответствующие менеджеры.
7.4.2.5 История изменений
Сюда входит журнал всех изменений, которые произошли с документом, начиная с момента его создания.
Примеры
1 Сюда может входить список, который содержит текущую версию документа и все предшествующие документы, уникальную идентификацию каждого документа, описание изменений документа относительно предыдущего документа в списке, причины изменений, авторство и роль лица, вносящего изменения.
2 К причинам изменений могут относиться замечания аудита, анализ разработчиков, изменения системы. Лицом, вносящим изменения, может быть автор документа, менеджер проекта, владелец системы.
7.4.3 Введение
Предоставляет разъясняющую информацию о содержании и структуре документа.
7.4.3.1 Область применения
Определяет степень покрытия предметной области документом и указывает все включения, исключения, предположения и/или ограничения.
7.4.3.2 Ссылки
Перечисляет нормативные ссылки и определяет хранилища для систем, программного обеспечения и информации о тестировании. Ссылки могут быть разделены на "внутренние" ссылки организации и "внешние" ссылки, которые не относятся к организации.
7.4.3.3 Условные обозначения
Определяет и объясняет все схемы идентификации или нумерации, используемые в наборах тестов и процедурах тестирования, если это не определено в другом документе.
Примечание - Может быть размещено в Плане Менеджмента Конфигурации.
7.4.3.4 Глоссарий
Представляет собой словарь терминов, сокращений и аббревиатур, если таковые используются в документе.
Примечание - Этот раздел может быть оформлен как приложение или в нем могут содержаться ссылки на другой документ, обеспечивающий общий глоссарий. Весь глоссарий или его часть и/или список аббревиатур могут быть в составе онлайнового отдельного глоссария по тестированию либо включены в больший организационный глоссарий, содержащий большое количество терминов, не связанных с тестированием.
7.4.4 Наборы тестов
7.4.4.1 Общие сведения
Определяет объединение контрольных примеров в наборы тестов для тестирования с конкретной целью тестирования. Как правило, наборы тестов обычно отражают наборы функций, однако в них могут входить контрольные примеры для нескольких наборов функций. Контрольные примеры для набора тестов могут отбираться на основе идентифицированных рисков, базиса тестирования, повторного тестирования и/или регрессионного тестирования.
Примечание - Наборы тестов могут быть определены в виде списков или таблиц в документе либо в используемом инструменте, например, в базе данных или специализированном инструменте тестирования. Наборы тестов формально документируются не всегда, поскольку их можно рассматривать как промежуточный шаг создания процедур тестирования.
Содержание описания набора тестов приводится ниже.
7.4.4.2 Уникальный идентификатор
Определяет уникальный идентификатор для набора тестов - такой, чтобы его можно было отличить от идентификатора любого другого набора тестов. Генерацией идентификаторов может управлять автоматизированный инструмент или это может быть сделано вручную соответственно применяемой схеме нотации. Уникальный идентификатор не должен быть изменен в течение времени жизни набора тестов, потому что он необходим для обеспечения прослеживаемости.
7.4.4.3 Цель
Определяет и кратко описывает особый акцент или цель для набора тестов.
Пример - "Этот набор тестов предназначен для повторного тестирования коррекций по инцидентам IN301 и IN56".
7.4.4.4 Приоритет
Определяет, в случае необходимости, приоритет тестирования для данного конкретного набора тестов.
7.4.4.5 Содержание (Прослеживаемость)
Обобщает содержание набора тестов. Обычно это представлено списком уникальных идентификаторов отобранных контрольных примеров.
7.4.5 Процедуры тестирования
7.4.5.1 Общие сведения
Описывает процедуры тестирования, которые были получены для наборов тестов. Процедура тестирования определяет порядок, в котором должны быть выполнены контрольные примеры соответствующего набора тестов согласно зависимостям, описанным в исходных условиях и постусловиях, и другим требованиям тестирования.
Примечание - Процедуры тестирования могут быть определены в виде списков или таблиц в документе либо в используемом инструменте, например, в базе данных или специализированном инструменте тестирования.
Содержание описания процедуры тестирования приводится ниже.
7.4.5.2 Уникальный идентификатор
Определяет уникальный идентификатор для процедуры тестирования - такой, чтобы его можно было отличить от идентификаторов всех других процедур тестирования. Генерацией идентификаторов может управлять автоматизированный инструмент или это может быть сделано вручную соответственно применяемой схеме нотации. Уникальный идентификатор не должен быть изменен в течение времени жизни процедуры тестирования, потому что он необходим для обеспечения прослеживаемости.
7.4.5.3 Цель
Идентифицирует и кратко описывает особый акцент или цель процедуры тестирования. Идентична цели соответствующего набора тестов.
7.4.5.4 Приоритет
Определяет, в случае необходимости, приоритет данной конкретной процедуры тестирования. Идентичен приоритету соответствующего набора тестов.
7.4.5.5 Запуск
Определяет необходимые действия подготовки к выполнению контрольных примеров, определенных в процедуре тестирования. Обычно это действия по установлению исходных условий для первого выполняемого контрольного примера.
7.4.5.6 Выполняемые контрольные примеры (Прослеживаемость)
Перечисляет контрольные примеры в том порядке, в котором они должны быть выполнены. Контрольные примеры могут быть пронумерованы в процедуре тестирования последовательно. Может быть определена степень возможного изменения процедуры.
Этот список может представлять собой ссылку на контрольные примеры или может быть копией списка контрольных примеров.
Если выполнение одного или более контрольных примеров в процедуре не устанавливает исходные условия для следующего контрольного примера, то между контрольными примерами могут быть определены дополнительные действия для установки исходных условий.
В описание процедуры тестирования могут быть включены пустые поля для записи фактических результатов и/или результата тестирования во время выполнения контрольного примера. Кроме того, фактические результаты и/или результат тестирования могут быть также записаны в Фактические Результаты (см. 7.9) и/или в Результат Тестирования (см. 7.10).
7.4.5.7 Связь с другими процедурами
Определяет зависимости, которые данная процедура тестирования может иметь с любыми другими процедурами тестирования.
Примерами зависимостей от других процедур тестирования являются: "они выполняются перед этой", "одновременно с этой" или "после этой".
7.4.5.8 Остановка и заключительные действия
Определяет действия, необходимые для осуществления правильной остановки и после завершения выполнения процедуры.
Пример - Действия могут быть завершением записи протокола или сбросом базы данных тестирования.
7.5.1 Общие сведения
Требования к Тестовым Данным описывают свойства тестовых данных, необходимые для выполнения процедур тестирования, определенных в Спецификации Процедур Тестирования.
В A.2.10 (приложение A) представлен макет Требований к Тестовым Данным, а в L.1 и L.2 (приложение L) приводятся примеры двух различных проектов, в которых показано, как могут быть разработаны Требования к Тестовым Данным.
Содержание Требований к Тестовым Данным представлено далее.
7.5.2 Спецификация документа
7.5.2.1 Общие сведения
Здесь представлена информация, которая идентифицирует документ и определяет его источники и историю.
Примечание - Если документ хранится в электронной форме, например, в базе данных, то информация может быть помещена в начало или середину документа.
7.5.2.2 Уникальная идентификация документа
Однозначно определяет версию документа.
Пример - Уникальный идентификатор может содержать название документа, дату выпуска, версию и/или состояние документа (например, рассмотренный проект, исправленный или окончательный).
7.5.2.3 Оформляющая организация
Определяет организацию, ответственную за подготовку и выпуск документа. Сюда могут также быть включены имена авторов (автора).
7.5.2.4 Полномочия по утверждению
Идентифицирует назначенное лицо (лиц), которое несет ответственность за рассмотрение и утверждение (подпись) документа (возможно в электронном виде). Сюда также могут быть включены рецензенты и соответствующие менеджеры.
7.5.2.5 История изменений
Сюда входит журнал всех изменений, которые произошли с документом, начиная с момента его создания.
Примеры
1 Сюда может входить список, который содержит текущую версию документа и все предшествующие документы, уникальную идентификацию каждого документа, описание изменений документа относительно предыдущего документа в списке, причины изменений, авторство и роль лица, вносящего изменения.
2 К причинам изменений могут относиться замечания аудита, анализ разработчиков, изменения системы. Лицом, вносящим изменения, может быть автор документа, менеджер проекта, владелец системы.
7.5.3 Введение
Предоставляет разъясняющую информацию о содержании и структуре документа.
7.5.3.1 Область применения
Идентифицирует степень покрытия предметной области документом и указывает все включения, исключения, предположения и/или ограничения.
7.5.3.2 Ссылки
Перечисляет нормативные ссылки и определяет хранилища для систем, программного обеспечения и информации о тестировании. Ссылки могут быть разделены на "внутренние" ссылки организации и "внешние" ссылки, которые не относятся к организации.
7.5.3.3 Глоссарий
Представляет собой словарь терминов, сокращений и аббревиатур, если таковые используются в документе.
Примечание - Этот раздел может быть оформлен как приложение или в нем могут содержаться ссылки на другой документ, обеспечивающий общий глоссарий. Весь глоссарий либо его часть и/или список аббревиатур могут быть в составе онлайнового отдельного глоссария по тестированию либо включены в больший организационный глоссарий, содержащий большое количество терминов, не связанных с тестированием.
7.5.4 Подробные Требования к Тестовым Данным
7.5.4.1 Общие сведения
Определяет данные, необходимые для выполнения процедур тестирования, определенных в Спецификации Процедур Тестирования. Сюда могут быть включены любые требования по обезличиванию данных.
Пример - Тестовые данные могут содержать смоделированные производственные данные, такие как данные об учетной записи пользователя и данные о клиентах.
Данные могут быть разделены на части, отражающие структуру данных элемента тестирования.
Пример - Данные могут быть определены в диаграмме классов или диаграмме сущностей и связей.
Содержание описания требований к тестовым данным приводится далее.
7.5.4.2 Уникальный идентификатор
Определяет уникальный идентификатор для Требования к Тестовым Данным - такой, чтобы его можно было отличить от идентификаторов всех других требований к тестовым данным. Генерацией идентификаторов может управлять автоматизированный инструмент или это может быть сделано вручную соответственно применяемой схеме нотации. Уникальный идентификатор не должен быть изменен в течение времени жизни Требования к Тестовым Данным, потому что он необходим для обеспечения прослеживаемости.
7.5.4.3 Описание
Определяет конкретное имя и требуемые значения или диапазоны значений для каждого элемента тестовых данных. Здесь также может быть определено, что данные должны быть сделаны анонимными или ими нужно управлять другими способами.
Пример - "По крайней мере 10 потребителей должны быть в базе данных с полным и корректным идентификатором и всей другой обязательной информацией о потребителе".
7.5.4.4 Ответственность
Определяет, кто ответственен за предоставление доступа к тестовым данным.
7.5.4.5 Необходимый период
Идентифицирует, когда и как долго необходимы тестовые данные. Тестовые данные могут быть необходимы в течение одного неразделенного периода или в течение нескольких отдельных периодов.
7.5.4.6 Необходимость сброса
Определяет, должны ли тестовые данные быть сброшены в ходе тестирования.
7.5.4.7 Архивация или утилизация
Идентифицирует, когда и как тестовые данные нужно заархивировать или необходимо избавиться от них после завершения тестирования.
7.6.1 Общие сведения
Требования к Тестовой Среде описывают свойства тестовой среды, необходимые для выполнения процедур тестирования, определенных в Спецификации Процедур Тестирования. По необходимости в этом документе может быть приведена ссылка на документ с соответствующей информацией.
Пример - Информация может быть представлена в Организационной Стратегии Тестирования, Плане Тестирования или Спецификации Тестирования.
В A.2.11 (приложение A) представлен макет Требований к Тестовой Среде, а в M.1 и M.2 (приложение M) приводятся примеры двух различных проектов, в которых показано, как могут быть разработаны Требования к Тестовой Среде.
Содержание документа "Требования к Тестовой Среде" представлено далее.
7.6.2 Спецификация документа
7.6.2.1 Общие сведения
Здесь представлена информация, которая идентифицирует документ и определяет его источники и историю.
Пример - Если документ хранится в электронной форме, например, в базе данных, то информация может быть помещена в начало или середину документа.
7.6.2.2 Уникальная идентификация документа
Однозначно определяет версию документа.
Пример - Уникальный идентификатор может содержать название документа, дату выпуска, версию и/или состояние документа (например, рассмотренный проект, исправленный или окончательный).
7.6.2.3 Оформляющая организация
Определяет организацию, ответственную за подготовку и выпуск документа. Сюда могут также быть включены имена авторов (автора).
7.6.2.4 Полномочия по утверждению
Идентифицирует назначенное лицо (лиц), которое несет ответственность за рассмотрение и утверждение (подпись) документа (возможно в электронном виде). Сюда также могут быть включены рецензенты и соответствующие менеджеры.
7.6.2.5 История изменений
Сюда входит журнал всех изменений, которые произошли с документом, начиная с момента его создания.
Примеры
1 Сюда может входить список, который содержит текущую версию документа и все предшествующие документы, уникальную идентификацию каждого документа, описание изменений документа относительно предыдущего документа в списке, причины изменений, авторство и роль лица, вносящего изменения.
2 К причинам изменений могут относиться замечания аудита, анализ разработчиков, изменения системы. Лицом, вносящим изменения, может быть автор документа, менеджер проекта, владелец системы.
7.6.3 Введение
Предоставляет разъясняющую информацию о содержании и структуре документа.
7.6.3.1 Область применения
Идентифицирует степень покрытия предметной области документом и указывает все включения, исключения, предположения и/или ограничения.
7.6.3.2 Ссылки
Перечисляет нормативные ссылки и определяет хранилища для систем, программного обеспечения и информации о тестировании. Ссылки могут быть разделены на "внутренние" ссылки организации и "внешние" ссылки, которые не относятся к организации.
7.6.3.3 Глоссарий
Представляет собой словарь терминов, сокращений и аббревиатур, если таковые используются в документе.
Примечание - Этот раздел может быть оформлен как приложение или в нем могут содержаться ссылки на другой документ, обеспечивающий общий глоссарий. Весь глоссарий или его часть и/или список аббревиатур могут быть в составе онлайнового отдельного глоссария по тестированию либо включены в больший организационный глоссарий, содержащий большое количество терминов, не связанных с тестированием.
7.6.4 Подробные Требования к Тестовой Среде
7.6.4.1 Общие сведения
Идентифицирует элементы среды, необходимые для выполнения процедур тестирования, определенные в Спецификации Процедур Тестирования. Сюда входит установка для выполнения процедур тестирования перед их выполнением и для любых действий после выполнения теста.
Пример - Элементы среды можно разделить на следующие виды, хотя в зависимости от конкретных требований могут потребоваться и другие виды:
- аппаратные средства;
- промежуточное программное обеспечение;
- программное обеспечение;
- периферийные устройства, например, принтеры;
- средства обмена информацией, например, веб-доступ;
- инструменты;
- защищенность;
- место проведения, например, размер помещения и уровень фонового шума;
- аксессуары, например, специальные предпечатные бумажные формы.
Примечание - Элементы среды могут быть сгруппированы по другим критериям, например, WindowsXP/Vista/Windows7 или различные входные интерфейсы, подключенные к ПК, если это лучше подходит. Сюда могут быть включены описания конкретных конфигураций, в которых должны использоваться и/или повторно использоваться эти элементы.
На практике тестовая среда обычно не является идеальным представлением рабочей среды, и подробные требования должны отразить степень представления рабочей среды тестовой средой.
Содержание описания элемента тестовой среды приводится далее.
7.6.4.2 Уникальный идентификатор
Определяет уникальный идентификатор для элемента среды - такой, чтобы его можно было отличить от идентификаторов всех других элементов среды. Генерацией идентификаторов может управлять автоматизированный инструмент или это может быть сделано вручную соответственно применяемой схеме нотации. Уникальный идентификатор не должен быть изменен в течение времени жизни элемента тестовой среды, потому что он необходим для обеспечения прослеживаемости.
7.6.4.3 Описание
Идентифицирует элемент среды в достаточных для него деталях для того, чтобы получить его в соответствии с ожиданием.
Пример - Сюда могут входить точно определенные аппаратные средства или программное обеспечение в конкретных версиях и конкретных конфигурациях. Здесь также могут быть перечислены требуемые пакетные задания, которые должны быть выполнены во время тестирования в определенные моменты для обеспечения процесса тестирования.
7.6.4.4 Ответственность
Определяет, кто ответственен за предоставление доступа к элементу среды.
7.6.4.5 Необходимый период
Идентифицирует, когда и как долго необходим элемент среды. Элемент среды может быть необходим в течение одного неразделенного периода или в течение нескольких отдельных периодов.
7.7.1 Общие сведения
Отчет о Готовности Тестовых Данных описывает выполнение каждого Требования к Тестовым Данным.
В A.2.12 (приложение A) представлен макет Отчета о Готовности Тестовых Данных, а в N.1 и N.2 (приложение N) приводятся примеры двух различных проектов, в которых показано, как могут быть разработаны Отчеты о Готовности Тестовых Данных для двух различных проектов.
Содержание Отчета о Готовности Тестовых Данных представлено ниже.
7.7.2 Спецификация документа
7.7.2.1 Общие сведения
Здесь представлена информация, которая идентифицирует документ и определяет его источники и историю.
Пример - Если документ хранится в электронной форме, например в базе данных, то информация может быть помещена в начало или середину документа.
7.7.2.2 Уникальная идентификация документа
Однозначно определяет версию документа.
Пример Уникальный идентификатор может содержать название документа, даты выпуска, версии и/или состояния документа (например, проект, рассмотренный, исправленный, финал).
7.7.2.3 Оформляющая организация
Определяет организацию, ответственную за подготовку и выпуск документа. Сюда могут также быть включены имена авторов (автора).
7.7.2.4 Полномочия по утверждению
Идентифицирует назначенное лицо (лиц), которое несет ответственность за рассмотрение и утверждение (подпись) документа (возможно в электронном виде). Сюда также могут быть включены рецензенты и соответствующие менеджеры.
7.7.2.5 История изменений
Сюда входит журнал всех изменений, которые произошли с документом, начиная с момента его создания.
Примеры
1 Сюда может входить список, который содержит текущую версию документа и все предшествующие документы, уникальную идентификацию каждого документа, описание изменений документа относительно предыдущего документа в списке, причины изменений, авторство и роль лица, вносящего изменения.
2 К причинам изменений могут относиться замечания аудита, анализ разработчиков, изменения системы. Лицом, вносящим изменения, может быть автор документа, менеджер проекта, владелец системы.
7.7.3 Введение
Предоставляет разъясняющую информацию о содержании и структуре документа.
7.7.3.1 Область применения
Идентифицирует степень покрытия предметной области документом и указывает все включения, исключения, предположения и/или ограничения.
7.7.3.2 Ссылки
Перечисляет нормативные ссылки и определяет хранилища для систем, программного обеспечения и информации о тестировании. Ссылки могут быть разделены на "внутренние" ссылки организации и "внешние" ссылки, которые не относятся к организации.
7.7.3.3 Глоссарий
Представляет собой словарь терминов, сокращений и аббревиатур, если таковые используются в документе.
Примечание - Этот раздел может быть оформлен как приложение или в нем могут содержаться ссылки на другой документ, обеспечивающий общий глоссарий. Весь глоссарий или его часть и/или список аббревиатур могут быть в составе онлайнового отдельного глоссария по тестированию либо включены в больший организационный глоссарий, содержащий большое количество терминов, не связанных с тестированием.
7.7.4 Состояние Тестовых Данных
7.7.4.1 Общие сведения
Обеспечивает состояние для каждого Требования к Тестовым Данным. Это может быть отмечено в заполнителе в документе Требований к Тестовым Данным.
Содержание описания каждого элемента данных включает в себя:
7.7.4.2 Уникальный идентификатор
Уникальный идентификатор используется в документе Требования к Тестовым Данным.
7.7.4.3 Описание состояния
Определяет состояние требуемого элемента тестовых данных. Состояние может содержать описание того, как фактические тестовые данные отклоняются от требований, например с точки зрения значений или объема.
7.8.1 Общие сведения
Отчет о Готовности Тестовой Среды описывает выполнение каждого требования к тестовой среде.
В A.2.13 (приложение A) представлен макет Отчета о Готовности Тестовой Среды, а в O.1 и O.2 (приложение O) приведены примеры, которые демонстрируют, как Отчеты о Готовности Тестовой Среды могут быть разработаны для двух различных проектов.
Содержание Отчета о Готовности Тестовой Среды представлено ниже.
7.8.2 Спецификация документа
7.8.2.1 Общие сведения
Здесь представлена информация, которая идентифицирует документ и определяет его источники и историю.
Пример - Если документ хранится в электронной форме, например, в базе данных, то информация может быть помещена в начало или середину документа.
7.8.2.2 Уникальная идентификация документа
Однозначно определяет версию документа.
Пример - Уникальный идентификатор может содержать название документа, дату выпуска, версию и/или состояние документа (например, рассмотренный проект, исправленный или окончательный).
7.8.2.3 Оформляющая организация
Определяет организацию, ответственную за подготовку и выпуск документа. Сюда также могут быть включены имена авторов (автора).
7.8.2.4 Полномочия по утверждению
Идентифицирует назначенное лицо (лиц), которое несет ответственность за рассмотрение и утверждение (подпись) документа (возможно в электронном виде). Сюда также могут быть включены рецензенты и соответствующие менеджеры.
7.8.2.5 История изменений
Включает журнал всех изменений, которые произошли с документом, начиная с его начала.
Примеры
1 Сюда может входить список, который содержит текущую версию документа и все предшествующие документы, уникальную идентификацию каждого документа, описание изменений документа относительно предыдущего документа в списке, причины изменений, авторство и роль лица, вносящего изменения.
2 К причинам изменений могут относиться замечания аудита, анализ разработчиков, изменения системы. Лицом, вносящим изменения, может быть автор документа, менеджер проекта, владелец системы.
7.8.3 Введение
Предоставляет разъясняющую информацию о содержании и структуре документа.
7.8.3.1 Область применения
Идентифицирует степень покрытия предметной области документом и указывает все включения, исключения, предположения и/или ограничения.
7.8.3.2 Ссылки
Перечисляет нормативные ссылки и определяет хранилища для систем, программного обеспечения и информации о тестировании. Ссылки могут быть разделены на "внутренние" ссылки организации и "внешние" ссылки, которые не относятся к организации.
7.8.3.3 Глоссарий
Представляет собой словарь терминов, сокращений и аббревиатур, если таковые используются в документе.
Примечание - Этот раздел может быть оформлен как приложение или в нем могут содержаться ссылки на другой документ, обеспечивающий общий глоссарий. Весь глоссарий или его часть и/или список аббревиатур могут быть в составе онлайнового отдельного глоссария по тестированию либо включены в больший организационный глоссарий, содержащий большое количество терминов, не связанных с тестированием.
7.8.4 Готовность тестовой среды
7.8.4.1 Общие сведения
Представляет подтверждения выполнения каждого требования к тестовой среде. Это может быть отмечено в соответствующих отведенных полях документа "Требования к Тестовой Среде".
Содержание описания каждого элемента среды включает в себя:
7.8.4.2 Уникальный идентификатор
Уникальный идентификатор используется в документе "Требования к Тестовой Среде".
7.8.4.3 Описание состояния
Определяет выполнение пункта Требований к Тестовой Среде.
Пример - Подтверждение выполнения может включать в себя описание отклонений фактической тестовой среды от требований, например, с точки зрения версий или конфигурации.
Примечание - Этот раздел также может быть использован для того, чтобы отметить готовность конкретных элементов тестовой среды (например, других приложений, которые интегрированы с элементом тестирования), поскольку в случае недоступности они могут повлиять на тестирование.
Фактические результаты - это запись результата выполнения контрольного примера в процедуре тестирования. Сравнение фактических результатов с ожидаемыми определяет результат тестирования.
Фактические результаты не всегда формально регистрируются. Некоторые типы систем (например, в случае регулирования критически важной защищенности) могут потребовать полного документирования фактических результатов, а для других (например, с высокой целостностью данных или требованиями надежности) можно принять решение - записывать ли фактические результаты полностью. Запись может производиться автоматизированным инструментом во время выполнения теста.
Некоторые контрольные примеры могут включать действия, которые обеспечивают результаты, которые являются промежуточными, но не являются частью фактических результатов выполнения контрольного примера. Они могут быть документированы либо отдельно в журнале тестирования, либо вместе с фактическими результатами. В последнем случае необходимо обеспечить четкое отличие фактических результатов от промежуточных результатов.
В случае необходимости фактические результаты обычно документируются непосредственно в процедуре тестирования в специальных полях, для этого зарезервированных. Поэтому фактические результаты обычно не рассматриваются как независимый документ.
Результат тестирования - это запись о том, прошло ли успешно выполнение конкретного контрольного примера или нет, то есть соответствуют ли фактические результаты ожидаемым либо наблюдались отклонения или запланированное выполнение контрольного примера невозможно.
Результат тестирования для контрольного примера обычно документируется непосредственно в процедуре тестирования в специальном зарезервированном для этого поле, поэтому результат тестирования обычно не рассматривается как независимый документ.
Пример - Если контрольный пример выполнен удачно, то это может быть отмечено галочкой или подобным знаком, однако в случае, если контрольный пример выполнен неудачно, это можно отметить номером отчета об инцидентах, создаваемого в результате такого отклонения. Если контрольный пример не может быть выполнен, это отмечается пометкой "блокировано" с описанием блокирования, если это возможно.
Иногда этот процесс полностью автоматизирован посредством инструмента, сравнивающего фактические результаты с ожидаемыми результатами и предоставляющего отчет о прошедших контрольных примерах, отказах или случаях невозможности выполнения.
Примечание - Иногда в качестве результата тестирования употребляют альтернативу "Прошел/Не прошел".
7.11.1 Общие сведения
Детали записей выполнения одной или более процедур тестирования.
Процедуры тестирования могут быть определены в виде списков или таблиц в документе или в используемом инструменте, например, в базе данных или специализированном инструменте тестирования.
В A.2.14 (приложение A) представлен макет Журнала Выполнения Теста, а в R.1 и R.2 (приложение R) приводятся примеры двух различных проектов, в которых показано, как может быть разработан Журнал Выполнения Теста.
Содержание Журнала Выполнения Теста представлено ниже.
7.11.2 Спецификация документа
7.11.2.1 Общие сведения
Здесь представлена информация, которая идентифицирует документ, определяет его источники и историю.
Пример - Если документ хранится в электронной форме, например, в базе данных, то информация может быть помещена в начало или середину документа.
7.11.2.2 Уникальная идентификация документа
Однозначно определяет версию документа.
Пример - Уникальный идентификатор может содержать название документа, дату выпуска, версию и/или состояние документа (например, рассмотренный проект, исправленный или окончательный).
7.11.2.3 Оформляющая организация
Определяет организацию, ответственную за подготовку и выпуск документа. Сюда также могут быть включены имена авторов и тестеров, если они не совпадают.
7.11.2.4 Полномочия по утверждению
Идентифицирует назначенное лицо (лиц), которое несет ответственность за рассмотрение и утверждение (подпись) документа (возможно в электронном виде). Сюда также могут быть включены рецензенты и соответствующие менеджеры.
7.11.2.5 История изменений
Сюда входит журнал всех изменений, которые произошли с документом, начиная с момента его создания.
Примеры
1 Сюда может входить список, который содержит текущую версию документа и все предшествующие документы, уникальную идентификацию каждого документа, описание изменений документа относительно предыдущего документа в списке, причины изменений, авторство и роль лица, вносящего изменения.
2 К причинам изменений могут относиться замечания аудита, анализ разработчиков, изменения системы. Лицом, вносящим изменения, может быть автор документа, менеджер проекта, владелец системы.
7.11.3 Введение
Предоставляет разъясняющую информацию о содержании и структуре документа.
7.11.3.1 Область применения
Идентифицирует степень покрытия предметной области документом и указывает все включения, исключения, предположения и/или ограничения.
7.11.3.2 Ссылки
Перечисляет нормативные ссылки и определяет хранилища для систем, программного обеспечения и информации о тестировании. Ссылки могут быть разделены на "внутренние" ссылки организации и "внешние" ссылки, которые не относятся к организации.
7.11.3.3 Глоссарий
Представляет собой словарь терминов, сокращений и аббревиатур, если таковые используются в документе.
Примечание - Этот раздел может быть оформлен как приложение или в нем могут содержаться ссылки на другой документ, обеспечивающий общий глоссарий. Весь глоссарий или его часть и/или список аббревиатур могут быть в составе онлайнового отдельного глоссария по тестированию либо включены в больший организационный глоссарий, содержащий большое количество терминов, не связанных с тестированием.
7.11.4 События
7.11.4.1 Общие сведения
Перечисляет значительные события, происходящие во время выполнения одной или более процедур тестирования.
Пример - Первым событием может быть запуск сеанса выполнения теста и последним - заключительное закрытие сеанса выполнения теста.
Кроме того, примеры событий, которые должны быть записаны, включают в себя:
- внезапное понижение производительности компьютера, на котором выполняется тестирование;
- отказ, делающий невозможным дальнейшее выполнение тестирования;
- перебои в тестовой среде, приводящие к ненадежности фактических результатов.
Содержание описания каждого события, зарегистрированного в Журнале Выполнения Теста, представлено ниже.
7.11.4.2 Уникальный идентификатор
Определяет порядковый номер записи в Журнале Выполнения Теста.
7.11.4.3 Время
Определяет точное время, включая, по необходимости, дату, когда произошло событие.
7.11.4.4 Описание
Описывает то, что произошло. По необходимости, может содержать ссылку на процедуру тестирования и контрольный пример, при выполнении которых произошло событие.
7.11.4.5 Влияние
Там, где применимо, описывает влияние на выполнение теста и/или фактический результат.
7.12.1 Общие сведения
Инцидент тестирования - это любая проблема, которая возникла во время тестирования, требующего регистрации действий. Инциденты тестирования регистрируются в Отчетах по Инцидентам. Для каждого уникального инцидента создается Отчет об Инциденте (Отчеты об Инцидентах могут называться отчетами о дефектах, ошибках, сбоях и т.д.).
Отчеты об Инцидентах могут быть представлены в виде списков или таблиц, помещенных в документе или в используемом инструменте, например, базе данных или специализированном инструменте отслеживания ошибок.
Формат Отчета об Инциденте может быть определен в другом документе организации, например, как в составе Процессов Управления Инцидентами, в таком случае нужно использовать именно его.
7.12.2 Отчет об Инциденте
В данном контексте Отчет об Инциденте документирует инцидент, выявленный во время тестирования.
Примечания
1 Инциденты могут происходить и быть выявлены и в других условиях, например, неоднозначности в спецификации бизнес-требований, обнаруженные во время проектирования программного обеспечения, или программные ошибки, возникшие во время производства.
2 Приведенная здесь информация является только такой информацией, которая необходима для создания первого Отчета об Инциденте. Для обработки посредством более широкого процесса управления инцидентами к Отчету об Инциденте может быть добавлено больше информации.
В A.2.15 (приложение A) представлен макет Отчета об Инциденте, а в S.1 и S.2 (приложение S) приводятся примеры двух различных проектов, в которых показано, как может быть разработан Отчет об Инциденте.
Содержание Отчета об Инциденте представлено ниже.
7.12.3 Спецификация документа
7.12.3.1 Общие сведения
Здесь представлена информация, которая идентифицирует документ, определяет его источники и историю.
Примеры
1 Если документ хранится в электронной форме, например, в базе данных, то информация может быть помещена в начало или середину документа.
2 Уникальный идентификатор может включать название документа, даты выпуска, версии и/или состояния документа (например, проект, рассмотренный, исправленный, финал).
7.12.3.2 Уникальная идентификация документа
Однозначно определяет версию документа.
7.12.3.3 Оформляющая организация
Определяет организацию, ответственную за подготовку и выпуск документа. Сюда также могут быть включены имена авторов.
7.12.3.4 Полномочия по утверждению
Идентифицирует назначенное лицо (лиц), которое несет ответственность за рассмотрение и утверждение (подпись) документа (возможно в электронном виде). Сюда также могут быть включены рецензенты и соответствующие менеджеры.
7.12.3.5 История изменений
Сюда входит журнал всех изменений, которые произошли с документом, начиная с момента его создания.
Примеры
1 Сюда может входить список, который содержит текущую версию документа и все предшествующие документы, уникальную идентификацию каждого документа, описание изменений документа относительно предыдущего документа в списке, причины изменений, авторство и роль лица, вносящего изменения.
2 К причинам изменений могут относиться замечания аудита, анализ разработчиков, изменения системы. Лицом, вносящим изменения, может быть автор документа, менеджер проекта, владелец системы.
7.12.4 Введение
Предоставляет разъясняющую информацию о содержании и структуре документа.
7.12.4.1 Область применения
Идентифицирует степень покрытия предметной области документом и указывает все включения, исключения, предположения и/или ограничения.
7.12.4.2 Ссылки
Перечисляет нормативные ссылки и определяет хранилища для систем, программного обеспечения и информации о тестировании. Ссылки могут быть разделены на "внутренние" ссылки организации и "внешние" ссылки, которые не относятся к организации.
7.12.4.3 Глоссарий
Представляет собой словарь терминов, сокращений и аббревиатур, если таковые используются в документе.
Примечание - Этот раздел может быть оформлен как приложение или в нем могут содержаться ссылки на другой документ, обеспечивающий общий глоссарий. Весь глоссарий или его часть и/или список аббревиатур могут быть в составе онлайнового отдельного глоссария по тестированию либо включены в больший организационный глоссарий, содержащий большое количество терминов, не связанных с тестированием.
7.12.5 Детали инцидента
Содержание описания впервые выявленного инцидента приводится далее.
7.12.5.1 Информация о времени
Записываются даты (и возможно время), когда инцидент первый раз был выявлен.
7.12.5.2 Инициатор
Определяет имена и должности лиц, идентифицировавших инцидент.
7.12.5.3 Контекст
Идентифицирует контекст, в котором выявлен инцидент.
Пример - Сюда могут входить:
- Элемент конфигурации, включая его уникальную идентификацию, в котором произошел инцидент. В контексте тестирования таким элементом обычно будет элемент тестирования, но это может быть и другой элемент конфигурации, например, Спецификация Тестирования;
- Процедура Тестирования и Контрольный Пример с их уникальными идентификаторами, при выполнении которых произошел инцидент;
- Любая релевантная информация о тестовой среде и/или тестовых данных, не включенная в другие документы и сочтенная тестером заслуживающей внимания;
- Процесс или подпроцесс тестирования, в котором наблюдался инцидент.
7.12.5.4 Описание инцидента
Предоставляет подробное описание инцидента. Отмечается, воспроизводим ли инцидент, и если да, то предоставляется информация, достаточная для того, чтобы его воспроизвести.
Могут быть включены соответствующая информация и результаты измерений, которые помогли бы изолировать и устранить причину инцидента.
В описание также допустимо включить ссылки на дополнительное свидетельство инцидента или на вспомогательную информацию, которая поможет в диагностике инцидента.
Пример - Такими свидетельствами могут быть снимки экрана, журналы системы и выходные файлы.
7.12.5.5 Оценка серьезности (инициатора)
Указывает, с точки зрения инициатора, глубину и ширину воздействия этого инцидента на технические факторы и факторы бизнеса. Здесь может приводиться оценка времени и усилий на устранение соответствующего дефекта.
Пример - Техническими и бизнес-факторами может быть возможность пользователя выполнения задач и системных операций.
Кроме того, здесь идентифицируется наличие каких-либо известных обходных решений.
7.12.5.6 Оценка приоритета (инициатора)
Обеспечивает оценку безотлагательности для исправления. В большинстве организаций имеется от трех до пяти категорий.
Пример - Оценка системы классификации может состоять в том, что самая серьезная категория, например "Исправить немедленно" означает, что продукт неприменим, а наименее серьезная, например "Исправить в поддержке" означает, что это косметический инцидент.
7.12.5.7 Риск
Предоставляет, если это применимо, информацию о введении новых рисков или изменениях состояния существующих рисков.
7.12.5.8 Состояние инцидента
Идентифицирует текущий статус инцидента, который в данном контексте будет "Открыт".
Примечание - Общая последовательность состояний инцидентов в ходе своих жизненных циклов может быть следующей: "Открыт", "Утвержден для разрешения", "Назначен для разрешения", "Фиксирован", "Повторно проверен с фиксацией, подтвержден" и "Закрыт". Другие возможные значения состояния - "Отклонен" или "Отозван".
(справочное)
A.1 Общие сведения
На рисунке A.1 показано содержание документации тестирования, установленное Организационной Политикой Тестирования. Документация Динамического Тестирования разрабатывается для конкретного проекта в контексте документации управления тестированием.
![]() На рисунке A.2 показана иерархия документов, получаемых при выполнении Процесса Разработки и Реализации Тестирования, определенного в ИСО/МЭК/ИИЭР 29119-2.
![]() Рисунок A.2 - Иерархия документации разработки
и реализации тестирования
A.2 Макеты документов
A.2.1 Общие сведения
Базовое содержание каждого из определенных документов представлено ниже.
Все документы включают в себя следующее:
Спецификация документа:
i) Уникальная идентификация документа.
ii) Оформляющая организация.
iii) Полномочия по утверждению.
iv) История изменений.
Введение:
i) Область применения.
ii) Ссылки.
iii) Глоссарий.
Перечисленные разделы могут быть расположены по-разному в разных документах в зависимости от организации и документа.
Обычно конкретные разделы документа помещаются после введения.
Специфическая информация Политики Тестирования включает в себя:
a) Положения Политики Тестирования:
i) Цели тестирования.
ii) Процесс тестирования.
iii) Организационная структура тестирования.
iv) Подготовка тестера.
v) Этика тестера.
vi) Стандарты.
vii) Другие соответствующие политики.
viii) Оценка стоимости тестирования.
ix) Архивация и повторное использование актива тестирования.
x) Совершенствование процесса тестирования.
Специфическая информация Организационной Стратегии Тестирования включает в себя:
a) Положения Организационной Стратегии Тестирования в масштабах проекта:
i) Общий менеджмент рисков.
ii) Выбор тестирования и приоритетов.
iii) Документация тестирования и создание отчетов.
iv) Автоматизация и инструменты тестирования.
v) Менеджмент конфигурации рабочих продуктов тестирования.
vi) Управление инцидентами.
vii) Подпроцессы тестирования.
b) Положения Организационной Стратегии Тестирования для конкретных подпроцессов:
i) Критерии входа и выхода.
ii) Критерии завершения тестирования.
iii) Документация тестирования и создание отчетов.
iv) Степень независимости.
v) Методика проектирования тестирования.
vi) Тестовая среда.
vii) Требуемые метрики.
viii) Повторное тестирование и регрессионное тестирование.
Специфическая информация Плана Тестирования включает в себя:
a) Контекст тестирования:
i) Проект/Подпроцесс тестирования.
ii) Элемент(ы) тестирования.
iii) Область применения тестирования.
iv) Предположения и ограничения.
v) Заинтересованные стороны.
b) Обмен информацией о тестировании.
c) Реестр рисков:
i) Риски продукта.
ii) Риски проекта.
d) Стратегия тестирования:
i) Подпроцессы тестирования.
ii) Практические результаты тестирования.
iii) Методы проектирования тестирования.
iv) Критерии завершения тестирования.
v) Требуемые метрики.
vi) Требования к Тестовым Данным.
vii) Требования к Тестовой Среде.
viii) Повторное тестирование и регрессионное тестирование.
ix) Критерии приостановки и возобновления.
x) Отклонения от Организационной Стратегии Тестирования
e) Действия и оценка тестирования.
f) Комплектность персонала:
i) Роли, действия и ответственность.
ii) Потребность в дополнительном персонале.
iii) Потребности в обучении.
g) Расписание.
Специфическая информация Отчета о Ходе Тестирования включает в себя:
a) Ход тестирования:
i) Отчетный период.
ii) Прогресс относительно Плана Тестирования.
iii) Факторы, блокирующие прогресс.
iv) Показатели тестирования.
v) Новые и измененные риски.
vi) Запланированное тестирование.
Специфическая информация Отчета о Завершении Тестирования включает в себя:
a) Выполненное тестирование:
i) Сводка выполненного тестирования.
ii) Отклонения от Плана Тестирования.
iii) Оценка завершения тестирования.
iv) Препятствующие факторы.
v) Показатели тестирования.
vi) Остаточные риски.
vii) Практические результаты тестирования.
viii) Активы тестирования, допускающие повторное использование.
ix) Накопленный опыт.
Специфическая информация Спецификации Проекта Тестирования включает в себя:
a) Наборы функций:
i) Уникальный идентификатор.
ii) Цель.
iii) Приоритет.
iv) Конкретная стратегия.
v) Прослеживаемость.
b) Тестовые условия:
i) Уникальный идентификатор.
ii) Описание.
iii) Приоритет.
iv) Прослеживаемость.
Специфическая информация Спецификации Контрольных Примеров включает в себя:
a) Элементы тестового покрытия:
i) Уникальный идентификатор.
ii) Описание.
iii) Приоритет.
iv) Прослеживаемость.
b) Контрольные примеры:
i) Уникальный идентификатор.
ii) Цель.
iii) Приоритет.
iv) Прослеживаемость.
v) Исходные условия.
vi) Входы.
vii) Ожидаемые результаты.
viii) Фактические результаты и результат тестирования.
Специфическая информация Спецификации Процедур Тестирования включает в себя:
a) Наборы тестов:
i) Уникальный идентификатор.
ii) Цель.
iii) Приоритет.
iv) Содержание (Прослеживаемость).
b) Процедуры тестирования:
i) Уникальный идентификатор.
ii) Цель.
iii) Приоритет.
iv) Запуск.
v) Выполняемые контрольные примеры (Прослеживаемость).
vi) Связь с другими процедурами.
vii) Остановка и заключительные действия.
Специфическая информация Требований к Тестовым Данным включает в себя:
a) Подробные Требования к Тестовым Данным:
i) Уникальный идентификатор.
ii) Описание.
iii) Ответственность.
iv) Необходимый период.
v) Необходимость сброса.
vi) Архивация или утилизация.
Специфическая информация Требований к Тестовой Среде включает в себя:
a) Подробные требования к тестовой среде:
i) Уникальный идентификатор.
ii) Описание.
iii) Ответственность.
iv) Необходимый период.
Специфическая информация Отчета о Готовности Тестовых Данных включает в себя:
a) Состояние тестовых данных:
i) Уникальный идентификатор.
ii) Описание состояния.
Специфическая информация Отчета о Готовности Тестовой Среды включает в себя:
a) Состояние тестовой среды:
i) Уникальный идентификатор.
ii) Описание состояния.
Специфическая информация Журнала Выполнения Теста включает в себя:
a) События:
i) Уникальный идентификатор.
ii) Время.
iii) Описание.
iv) Влияние.
Специфическая информация Отчета об Инциденте (состояние обнаружения) включает в себя:
a) Детали инцидента:
i) Информация о времени.
ii) Инициатор.
iii) Контекст.
iv) Описание инцидента.
v) Оценка серьезности (инициатора).
vi) Оценка приоритета (инициатора).
vii) Риск.
viii) Состояние инцидента.
(справочное)
С ИНФОРМАЦИОННЫМИ ЭЛЕМЕНТАМИ ИСО/МЭК/ИИЭР 29119-3
B.1 Соответствие
Данное приложение на высоком уровне представляет соответствие действий, определенных в ИСО/МЭК/ИИЭР 29119-2, информационным элементам шаблонов документации, определенным в ИСО/МЭК/ИИЭР 29119-3. Для пользователей ИСО/МЭК/ИИЭР 29119-3, которые не применяют ИСО/МЭК/ИИЭР 29119-2, это приложение является дополнительным.
В таблице B.1 сведены нормативные требования для разделов ИСО/МЭК/ИИЭР 29119-2, в которых определено создание информационных элементов ИСО/МЭК/ИИЭР 29119-3.
Таблица B.1
Сводка нормативных требований ИСО/МЭК/ИИЭР 29119-2,
в котором определены информационные элементы
ИСО/МЭК/ИИЭР 29119-3
(справочное)
Приложения D - S содержат примеры использования шаблонов как для проекта динамичной разработки, так и для традиционного проекта, чтобы продемонстрировать применимость настоящего стандарта к проектам обоих типов. Необходимо отметить, что это всего лишь примеры, а в реальной жизни возможны и вероятны многочисленные отличия.
В частности, это имеет место в динамичных проектах. Усеченные (более динамичные) информационные элементы, представленные в динамичных примерах, являются "облегченными" версиями информационных элементов. Такой подход приемлем из-за низких предполагаемых рисков разработки, тогда как "тяжелые" версии в других примерах связаны с более высокими требованиями к гарантии жизненного цикла.
Для любого проекта может быть выбран свой комплект документации в диапазоне от полного комплекта (все документы) до минимальной совокупности документов тестирования (состав определяется конкретным проектом).
Примечание - Следует отметить, что в некоторых примерах документации используется словосочетание "должно быть". Его следует трактовать, как относящееся только к примеру, а не как нормативное требование.
Пример - документация базируется на двух примерах проектов:
Корпорация Agile - большая организация, осуществляющая публикацию журналов и книг. У корпорации есть внутренний отдел ИТ, который ответственен за все продукты ИТ, используемые организацией для поддержки ее бизнеса. Проекты выполняются одной динамичной командой, так что проекты, выполняемые с использованием традиционных методов разработки, не реализуются. Организация имеет несколько лет опыта подобной работы и считает, что она действительно хорошо работает со своими потребностями в новых и расширенных ИТ-системах поддержки бизнеса.
Проект, который рассматривается в этом примере, является разработкой нового веб-решения системы подписки, позволяющей привлечь новых подписчиков и позволить существующим подписчикам изменить их персональные данные и заказать новые или расширить старые подписки.
Traditional Ltd - небольшая компания, которая производит передовое аналитическое оборудование для сельскохозяйственной промышленности. Некоторые их продукты критически важны в том смысле, что неправильные результаты анализа могли вызвать внесение неправильных доз удобрения (или слишком много, или слишком мало). Следовательно, организация должна производить продукт в соответствии с определенным стандартом, который устанавливает требования к производству и обеспечению качества конкретных документов и прослеживаемости между элементами рабочего продукта.
Проект, который рассматривается в этом примере, является разработкой блока ПК, называемого UV/TIT-14 33a. Это - аппарат для определения компонентов удобрения и их концентрации в пробах почвы. Аппарат снабжен пользовательским интерфейсом, работающим на ПК с беспроводным соединением с измерительной системой.
Не во всех примерах документов включены разделы "Специфическая информация документа" или "Введение"; это вызвано тем, что такая информация специфична для компании, а внимание в примерах сосредоточено на содержании документов тестирования.
Примеры могут быть внутренне противоречивыми. Каждый раздел должен рассматриваться как независимый пример информации, связанной с темой, указанной в заголовке.
Примеры не всегда заполнены до конца. Места пропущенных абзацев отмечены тремя вертикально расположенными точками:
.
.
.
Текст, пропущенный внутри абзаца, отмечен многоточием: "...".
(справочное)
Корпорация Agile - большая организация, осуществляющая публикацию журналов и книг. Более подробно она представлена в C.1 (приложение C).
Политика Тестирования корпорации Agile, V1.2 (02/13/2009)
Разработано: Урсула Мейерс, ответственный разработчик.
Утверждено: Стефан Блэксмит, глава отдела качества.
Область применения: Эта Политика Тестирования определяет корпоративное представление тестирования в корпорации Agile и служит основой для выполнения всех тестирований для всех внутренних проектов организации.
Введение: Корпорация Agile признает необходимость тестирования ее внутренних продуктов. Затраты на разработку высококачественных программных систем можно разделить на четыре категории: затраты на предотвращение, затраты на тестирование, затраты на внутренние отказы и затраты на внешние отказы. Обычно дешевле предотвратить дефекты, чем обнаружить и устранить их (затраты на тестирование, плюс затраты на внутренние отказы), а дороже всего обходится внешний отказ, обнаруженный пользователями. Чтобы избежать этого, корпорация Agile использует методики "Разработка через тестирование" (TDD) и "Разработка через приемочное тестирование" (ATDD), которые являются методиками разработки программного обеспечения. В своей реализации TDD корпорация Agile использует метод белого ящика, определенный в ИСО/МЭК/ИИЭР 29119-4.
Цели тестирования: Цель тестирования состоит в получении информации, достаточной для оценки текущего уровня качества тестируемой системы, поскольку все действия, направленные на достижение этого, считаются действиями тестирования программного обеспечения (например, тестирование комплексирования, тестирование системы, приемочные испытания и регрессионное тестирование).
Процесс тестирования: Тестирование программного обеспечения будет базироваться на процессах тестирования, определенных в ИСО/МЭК/ИИЭР 29119-2 и будет согласовано с подходом к разработке.
Организационная структура тестирования: Тестирование будет производиться ресурсами корпорации Agile из центрального пула тестеров, назначенных проекту. Кроме того, по мере необходимости, центральный "опытный" ресурс тестирования программного обеспечения под руководством Главы Тестирования обеспечит консультационные услуги по тестированию проектов. Организационная структура тестирования в проекте будет соответствовать общему руководству проектом.
Подготовка тестера: Все члены команд тестирования должны иметь надлежащее университетское образование или, по крайней мере, минимальный уровень отраслевой сертификации в тестировании программного обеспечения. Кроме того, ожидается, что тестеры будут иметь опыт в динамичных разработках или получат его в течение трех месяцев после присоединения к команде тестирования.
Стандарты: Документация тестирования будет основываться на ИСО/МЭК/ИИЭР 29119-3 "Документация тестирования", адаптированном к использованию в динамичных проектах.
Другие соответствующие политики: Политика разработки программного обеспечения корпорации Agile, V4.3 (12/12/2008).
Совершенствование процесса тестирования и определение стоимости: Результатами итераций станут накопленный опыт, метрики и концепции улучшения, которые будут представлены в центральную организацию тестирования.
Traditional Ltd - небольшая компания, которая производит передовое аналитическое оборудование для сельскохозяйственной промышленности. Более подробно она представлена в C.1 (приложение C).
Эта политика опубликована в корпоративной интрасети Traditional Ltd под заголовком "Управление" >> "Политики". Она не предоставляет всю информацию о документе и не имеет версию, однако есть дата публикации.
Политика Тестирования
Цель и определение тестирования
В Traditional Ltd тестирование рассматривают как средство достижения доверия к нашим продуктам со стороны пользователя и потребителя. Тестирование - это одно из многих средств достижения этой цели.
Процесс тестирования
В любой проект программного обеспечения должен входить проект тестирования. Другими словами, проект тестирования должен быть подпроектом соответствующего проекта программного обеспечения.
Упомянутые два проекта должны быть запущены одновременно. Процесс тестирования включает следующие действия: планирование, анализ и проектирование тестовых материалов, выполнение и документирование тестирования, включая регистрацию любых инцидентов, завершение тестирования и создание отчетов. Тестирование влияет на что-то (объект тестирования), и наблюдая эффект воздействия, можно решить, считать этот эффект правильным или неправильным поведением.
Организация
Каждый проект должен быть укомплектован аналитиками, разработчиками, программистами и аналитиками тестирования. Они все подчиняются менеджеру проекта. Для выполнения тестирования можно нанимать студентов.
Оценка тестирования
Менеджмент для каждого продукта должен определить, какой уровень качества необходимо достигнуть в терминах максимального количества отчетов по инцидентам от потребителей за установленный срок.
При выпуске продукта группа тестирования должна представить отчет об ожидаемом поведении продукта. Спустя один год после выпуска менеджмент рассматривает этот отчет и сравнивает его с обратной связью рынка (число отчетов об инцидентах, число отказов.)
Стандарты
Мы следуем за соответствием нашим собственным стандартам, опубликованным в нашей сети, которые базируются на ИСО/МЭК/ИИЭР 29119-3 "Документация тестирования".
Политики в Traditional Ltd
Политики разработки программного обеспечения и обеспечения качества формируют базу для всех разработок и тестирования программного обеспечения в Traditional Ltd.
Подход к совершенствованию процесса тестирования
При выпуске продукта группа тестирования должна представить отчет, в котором проект анализируется с точки зрения тестирования. Любые улучшения, предложенные в этом отчете, обсуждаются с менеджментом для решения по реализации совершенствования.
Спустя один год после оценки тестирования менеджмент анализирует возможность внедрения улучшения.
(справочное)
Корпорация Agile - большая организация, осуществляющая публикацию журналов и книг. Более подробно она представлена в C.1 (приложение C).
Организационная Стратегия Тестирования корпорации Agile, V1.1 (03/23/2009).
Разработано: Урсула Мейерс, ответственный разработчик.
Утверждено: Стефан Блэксмит, глава отдела качества.
Оформляющая организация: За подготовку Организационной Стратегии Тестирования в корпорации Agile ответственен руководитель тестирования. Высшее руководство корпорации Agile ответственно за анализ, утверждение и распространение Организационной Стратегии Тестирования.
Область применения: Эта Организационная Стратегия Тестирования определяет общий подход корпорации к тестированию. Мы разработали и реализовали несколько руководств, которые применимы для всех проектов. Мы стремимся обеспечивать тестирование в каждой точке жизненного цикла программного обеспечения и систем. Это выполняется путем привлечения нашей группы тестирования на ранних этапах процессов жизненного цикла к участию в разработках и работе с историями пользователя даже в черновом исполнении. На основе этих артефактов разрабатываются планы тестирования и определяются объемы тестовых испытаний. В дополнение к разработке планов тестирования организация будет использовать такие динамичные действия тестирования, как участие заинтересованных сторон в проекте тестирования, подготовка автоматизации тестирования, экспертные оценки, различные методы проектирования тестирования (применимо к проекту), поверхностное отслеживание дефектов и создание отчетов.
Ссылки: Манифест динамичной разработки (Agile Manifesto).
Общий менеджмент рисков: Менеджмент всех рисков должен соответствовать предписанному корпоративному Процессу Менеджмента Рисков, как это определено в Корпоративной Политике-RM56, где идентифицирован общий реестр рисков. Любые отклонения и исключения должны быть утверждены высшим руководством.
Степень независимости: Организация тестирования корпорации возглавляется руководителем тестирования, у которого нет прямой связи с руководителем разработки. Организация тестирования технически, организационно и финансово независима от организации разработки корпорации Agile; однако назначенные в проект тестеры могут участвовать непосредственно в разработках в составе самоорганизующихся команд.
Организационная структура тестирования: Организация тестирования корпорации Agile имеет пул независимых профессионалов тестирования, из которого тестеры назначаются в динамичные команды, например, в команды Scrum, где они являются полноправными членами.
Стратегия документации тестирования: Организация тестирования должна соответствовать документации тестирования, определенной в ИСО/МЭК/ИИЭР 29119-3 и принципам динамичной разработки. Любые отклонения требуют утверждения руководителем тестирования.
?????????????????????????????
? Руководитель тестирования ?
? (1 человек) ?
?????????????????????????????
?
\/ ??????????????????????????
????????????????????????? ? Администраторы ?
? Тестеры ?????>? тестовой среды ?
? (21 человек) ? ? (5 человек) ?
????????????????????????? ??????????????????????????
Подпроцессы тестирования документированы в планах тестирования проекта: В обеспечение гарантии выбора самого эффективного типа тестирования корпорация опирается на компетентность своего руководителя тестирования. Это осуществляется через программу наставничества тестеров в командах Scrum и включает в себя функциональные и нефункциональные методы, методы проектирования тестирования и инструменты тестирования, адаптированные из ИСО/МЭК/ИИЭР 29119-1, -2 и -4. Дополнительно для каждого проекта определяется выбор тестирования, приоритет и менеджмент. Далее для проекта должны быть выбраны свои собственные тестовые среды, методы повторного тестирования/регрессии и методы управления инцидентами. Эти элементы согласовываются в ходе непрерывного прямого взаимодействия с заинтересованными сторонами в течение жизни каждого проекта. Уровень документирования Плана Тестирования (объем и формат) также согласовывается с заинтересованными сторонами проекта.
Traditional Ltd - небольшая компания, которая производит передовое аналитическое оборудование для сельскохозяйственной промышленности. Более подробно она представлена в C.1 (приложение C).
У Traditional Ltd есть Организационная Стратегия Тестирования, разделенная на части для проекта в целом и для каждого подпроцесса тестирования. В этот пример включены часть для проекта в целом, части для тестирования компонентов и тестирования системы.
Организационная Стратегия Тестирования
(справочное)
Корпорация Agile - большая организация, осуществляющая публикацию журналов и книг. Более подробно она представлена в C.1 (приложение C).
Этот план доступен на портале проекта, и новейшая версия также вывешена в правом верхнем углу доски истории в комнате разработки.
Действия и оценка тестирования: Тестирование, как ожидается, потребует одной трети от общих трудозатрат команды, необходимых для итерации. На данный момент оценка времени тестирования презентации составляет 3 часа.
Этот пример включает в себя два примера Плана Тестирования, а именно:
- План Тестирования Проекта;
- План Тестирования Системы.
F.2.1 План Тестирования Проекта
Traditional Ltd - небольшая компания, которая производит передовое аналитическое оборудование для сельскохозяйственной промышленности. Более подробно она представлена в C.1 (приложение C).
![]() Журнал изменений
1 Введение
1.1 Область применения
Цель этого документа состоит в том, чтобы предоставить информацию и основы для планирования и выполнения всех процессов тестирования, необходимых для проверки продукта - блока для ПК UV/TIT-14 33a.
1.2 Ссылки
[PP] План Проекта
[PRS] Спецификация Требований Проекта
[OTS] Организационная Стратегия Тестирования Traditional Ltd
[KD] Спецификация требований к блоку для ПК UV/TIT-14 33a. Vers. 1.8
[HW/SW-spec] Спецификация аппаратных и программных средств
1.3 Глоссарий
В этом документе действительны термины, определенные в [PP].
Используются следующие сокращения:
TBD - Требует уточнения.
2 Содержание плана
Продукт UV/TIT состоит из следующих аппаратных модулей:
- ультрафиолетовый спектрометр;
- спектрометр IR;
- автоматическая бюретка;
- конвейер;
- компьютер (сервер);
- ПК.
Архитектура показана на рисунке.
????????????????????? ????????????????????? ??????????????????????????
? УФ-спектрометр ? ? ИК-спектрометр ? ? Автоматическая бюретка ?
????????????????????? ????????????????????? ??????????????????????????
??????????????????????????????????????????????????????????????
? ??????????????????? ???????????????????
? ? Компьютер ?<?????????????????????>? ПК ?
? ??????????????????? Сеть ???????????????????
?Шина
? ???????????????????
???? Конвейер ?
? ???????????????????
В состав системы входят следующие программные модули на компьютере (сервер):
- ультрафиолетовый модуль;
- модуль IR;
- модуль бюретки;
- модуль конвейера;
- сетевой модуль.
В систему входят следующие программные модули на ПК:
- калибровочный модуль;
- модуль идентификации компонента и концентрации;
- модуль установки;
- модуль контроля и отчетности;
- сетевой модуль.
2.2 Элемент(ы) тестирования
Тестирование для этого проекта включает в себя тестирование:
- каждого из модулей программного обеспечения ПК, перечисленных выше (см. 2.1);
- каждого компонента программных модулей ПК, перечисленных выше (см. 2.1);
- функциональности полной программной системы.
Точные версии различных элементов тестирования нужно получать из системы менеджмента конфигурации во время определения тестирования и необходимо контролировать до выполнения любого тестирования.
2.3 Область применения тестирования
Система на ПК состоит из упомянутых выше программных модулей. В качестве сетевого модуля был приобретен стандартный продукт, проверенный таким количеством организаций, что он не нуждается в тестировании. Все другие модули должны быть протестированы при предположении, что операционная система на ПК и сеть работают правильно.
Функциональность, непосредственно связанная с сетевым соединением с компьютером, не будет проверяться, кроме как косвенно, когда эти функции будут использоваться в некотором другом тестировании.
Нефункциональные характеристики качества, такие как производительность, защищенность, безопасность и удобство использования не будут проверяться в этом проекте тестирования, потому что такое тестирование будет передано другой компании, которая и выполнит эту часть тестирования. Отдельный План Тестирования для них будет разрабатываться сторонней компанией, ответственной за это тестирование.
2.4 Предположения и ограничения
Нет.
2.5 Заинтересованные стороны
См. анализ заинтересованной стороны в [PP].
3 Обмен информацией о тестировании
См. [PP].
4 Реестр рисков
В таблицах рисков используются следующие сокращения:
P - вероятность или возможность риска;
I - влияние или воздействие, если риск осуществляется;
E - воздействие = вероятность "на" влияние.
Шкала для вероятности и влияния будет иметь диапазон значений от 1 до 6, где 6 - максимальные вероятность или влияние.
4.1 Риски продукта
4.2 Риски проекта
5 Стратегия тестирования
5.1 Подпроцессы тестирования
Тестирование продукта - блока для ПК UV/TIT-14 33a должно включать в себя следующие подпроцессы тестирования:
- покомпонентное тестирование;
- тестирование интеграции компонентов;
- тестирование системы.
5.2 Практические результаты тестирования
Для каждого подпроцесса тестирования должна быть разработана следующая документация:
- план подпроцесса тестирования;
- спецификация тестирования;
- журнал тестирования;
- отчет о завершении подпроцесса тестирования.
5.3 Методы проектирования тестирования
Определяются для каждого подпроцесса тестирования согласно соответствующему разделу [OTS].
5.4 Критерии завершения тестирования
Определяются для каждого подпроцесса тестирования согласно соответствующему разделу [OTS].
5.5 Требуемые метрики
Определяются для каждого подпроцесса тестирования согласно соответствующему разделу [OTS].
5.6 Тестовые данные и требования к тестовой среде
Определяются для каждого подпроцесса тестирования согласно соответствующему разделу [OTS].
Конкретные требования инструментов тестирования:
- Ant;
- JIRA;
- JBoss;
- Test link 1.8 RC2.
5.7 Повторное тестирование и регрессионное тестирование
Определяется для каждого подпроцесса тестирования согласно соответствующему разделу [OTS].
5.8 Критерии приостановки и возобновления
Критерии приостановки перечислены в реестре рисков проекта выше (см. риск за номером 7).
5.9 Отклонения от Организационной Стратегии Тестирования
См. конкретные планы подпроцессов тестирования.
6 Действия и оценки тестирования
Эта информация доступна в инструментах Mpower и Organization Dashboard корпоративной сети: /template/go.php?url=https://mpower.Traditional.com/irj/portal.
Для получения информации о соответствующих показателях стоимости и ежемесячном отслеживании доступна следующая ссылка:
/template/go.php?url=https://processnet.masked.com/projectdashboard/Dashboardhome_new.asp.
Эта информация доступна только менеджерам проектов и рангом выше.
7 Персонал
7.1 Роли, действия и ответственность
Высокоуровневые действия - это подпроцессы, которые будут выполняться. Подробные действия и ответственность будут документированы в планах подпроцессов тестирования.
7.2 Потребность в дополнительном персонале
См. конкретные Планы Подпроцессов Тестирования.
7.3 Потребности в обучении
См. конкретные Планы Подпроцессов Тестирования.
8 Расписание
График тестирования, соответствующего этому плану, включен в диаграмму Ганта для проекта.
F.2.2 План Тестирования Системы
UV/TIT-14 33a Блок для ПК, План Тестирования Системы
Титульная страница и спецификация документа в этом примере опущены.
1 Введение
См. План Тестирования Проекта.
2 Содержание плана
2.1 Проект
См. План Тестирования Проекта.
2.2 Элемент(ы) тестирования
Элемент(ы) тестирования - интегрированное программное обеспечение ПК для блока для ПК UV/TIT-14.
2.3 Область применения тестирования
Функции, которые будут проверены, могут быть подразделены на следующие группы:
- установка системы;
- идентификация компонентов (IR + UV);
- концентрация компонентов (UV + управление бюреток);
- калибровка UV, IR и бюреток;
- отчеты по идентификации, концентрации и калибровке;
- отчеты по установке;
- управление системой конвейера (скорость, корректный запуск, позиции остановок и т.д.);
- статистика.
Кроме тестирования системы План Тестирования не касается других подпроцессов тестирования, например, тестирования компонентов и приемочных испытаний.
Функции, непосредственно связанные с сетевым соединением с компьютером, не будут проверяться, кроме как косвенно, когда эти функции будут использоваться в некотором другом тестировании.
Нефункциональные характеристики качества, такие как производительность, защищенность, безопасность и удобство использования, не будут проверяться в этом проекте тестирования, потому что такое тестирование будет передано другой компании, которая и выполнит эту часть тестирования.
Тестирование охватывает все программное обеспечение для ПК, разработанное для этой системы. Это означает, что другие элементы, такие как операционная система и сеть, явно не проверяются.
2.4 Предположения и ограничения
См. План Тестирования Проекта.
2.5 Заинтересованные стороны
См. План Тестирования Проекта.
3 Обмен информацией о тестировании
См. План Тестирования Проекта.
4 Реестр рисков
4.1 Риски продукта
См. План Тестирования Проекта относительно рисков продукта.
4.2 Риски проекта
D - Разработка.
T - Тестирование.
5 Стратегия тестирования
5.1 Практические результаты тестирования
Практические результаты тестирования всей системы включают:
- настоящий план в актуальной версии на момент поставки;
- полный набор спецификаций тестирования;
- отчет о завершении тестирования полной системы блока для ПК UV/TIT-14 33a.
Практические результаты тестирования для каждой выполняемой процедуры тестирования включают:
- журнал тестирования, подписанный менеджером по тестированию. Журнал тестирования должен включать идентификационные номера отчетов по инцидентам, выявленным во время выполнения тестирования, если таковые имеются;
- обновленную версию спецификации тестирования или обновленный список известных дефектов в спецификации тестирования.
5.2 Методы проектирования тестирования
Необходимо применять следующие методики проектирования контрольных примеров:
- разбиение эквивалентности и анализ граничных значений;
- метод дерева классификации;
- тестирование таблицы решений;
- тестирование переходов состояний;
- тестирование по сценариям использования.
5.3 Критерии завершения тестирования
Тестирование системы должно обеспечить 80% покрытия требований, и все процедуры тестирования должны быть выполнены без отказов с уровнем серьезности 1 ("Высокий"),
5.4 Требуемые метрики
В ходе тестирования системы должны быть собраны следующие метрики:
- количество выполненных контрольных примеров;
- количество инцидентов по категориям;
- количество повторно выполненных контрольных примеров;
- количество разрешенных инцидентов по категориям;
- количество затраченного времени.
5.5 Требования к Тестовой Среде
Тестер (человек, ответственный за выполнение теста) во время выполнения тестирования должен иметь в наличии следующие документы:
- [PRS];
- план тестирования;
- руководство пользователя по UV/TIT-14 33a;
- копии процедур тестирования для каждого из выполняемых тестирований для записи хода тестирования.
Все аппаратные средства, операционная система и сеть описаны в спецификации [HW/SW-spec].
При выполнении тестирования другой ПК будет использоваться в качестве средства моделирования для того, чтобы команды, переданные в компьютер, могли быть проанализированы и в ответ на них могли быть моделированы простые ответы. Это позволит сократить ручную обработку, но потребует разработки средства моделирования. Таким образом, имеется потребность в средстве моделирования, которое работает на обычном ПК и идентично ПК-системе.
5.6 Повторное тестирование и регрессионное тестирование
Для выполнения критериев завершения должны быть выполнены необходимые повторное тестирование и регрессионное тестирование. По предварительной оценке будет выполнено по крайней мере три цикла тестирования, в составе последнего из них - полный регрессионный тест.
5.7 Критерии приостановки и возобновления
Если выполнение тестирования невозможно из-за внешних причин, то оно должно быть отложено до их устранения. В журнале тестирования должно быть записано, что произошло и на какое время было приостановлено тестирование. При возобновлении тестирования на основе оценки степени риска необходимо минимизировать повторение уже сделанного тестирования.
Если завершение набора тестов невозможно из-за отказа, об этом должно быть доложено через систему управления инцидентами, а отказу должен быть присвоен уровень серьезности тестирования "Высокий". При возобновлении тестирования затронутая процедура тестирования должна быть повторена.
5.8 Отклонения от Организационной Стратегии Тестирования
Организационная Стратегия Тестирования требует 100%-ного покрытия требований, однако оно было уменьшено до 80% для тестирования этой системы из-за относительно небольшого количества рисков продукта и из-за того, что запланировано скрупулезное покомпонентное тестирование.
6 Действия и оценки тестирования
Работа по тестированию в соответствии с [OTS] будет разбита на следующие основные виды деятельности:
1) Определение полной структуры тестирования в форме наборов проверяемых функций.
2) Подробная спецификация контрольных примеров и процедур тестирования.
3) Установление тестовой среды.
4) Первый цикл выполнения процедур тестирования.
5) Второй цикл выполнения процедур тестирования (повторное тестирование и регрессионный тест из первого цикла).
6) Третий цикл выполнения процедур тестирования (повторное тестирование и регрессионный тест из второго цикла и всех оставшихся из первого цикла).
7) Еженедельный отчет о состоянии выполнения тестирования.
8) Создание отчетов о завершении тестирования.
Подробные действия тестирования и их оценки можно найти в файле SYS-TEST.xls на портале проекта.
7 Персонал
7.1 Роли, действия и ответственность
Таблица, приведенная ниже, иллюстрирует участие ролей в действиях и степень участия. Номер столбца действия соответствует номеру в вышеуказанном списке действий.
Где:
R - ответственный;
A - отчитывается;
C - консультирует;
I - получает информацию.
Распределение ролей
7.2 Потребность в дополнительном персонале
Для выполнения тестирования нам нужны два студента (или другие специалисты с достаточной квалификацией). Они будут наняты в соответствии с правилами найма HR.
7.3 Потребности в обучении
Для двух тестеров необходимо введение в систему. По оценке это займет 1 час в первый день.
8 Расписание
Полный график тестирования показан ниже на рисунке.
![]() (справочное)
Отчет о ходе тестирования выпускается в конце каждой итерации в форме сводного отчета, размещенного на портале проекта.
Traditional Ltd - небольшая компания, которая производит передовое аналитическое оборудование для сельскохозяйственной промышленности. Более подробно она представлена в C.1 (приложение C).
Проект продукта - Блок для ПК UV/TIT-14 33a
Отчет о Ходе Тестирования системы V 1.0, 22.03.2004
Ход тестирования 22 марта 2004 г.
Отчетный период: 15 - 21 марта 2004 г.
Прогресс по сравнению с Планом Тестирования: Были проверены функциональности "XX" модуля приложения.
Мы почти достигли цели плана, выполнив 2/3 контрольных примеров. Мы ожидаем наверстать маленькую задержку на следующей неделе. Кажется, что большинство обнаруженных отказов происходят из-за простых дефектов в отдельных модулях. Детали приводятся ниже.
Числа записей в блоке: Нет.
Показатели тестирования:
Примечание - Графики, возможно, не соответствуют данным, представленным в таблицах в этом примере; они включены только для того, чтобы продемонстрировать возможность включения в отчет графиков и таблиц.
![]() В нижеследующих таблицах приводятся полученные показатели, где обозначены: P1, P2 ... P6 - приоритеты. P1 является самым высоким.
Ежедневные показатели выполнения контрольных примеров
Накопительные показатели выполнения контрольных примеров
Ежедневная сводка дефектов
Накопительная сводка дефектов
Новые и измененные риски: Нет.
Запланированное тестирование: Команда выполняет тестирование и тратит много времени на выявление дефектов, которые, как предполагалось, должны были обнаружиться в подпроцессе покомпонентного тестирования. Если бы группой разработчиков были приняты меры по точной настройке примеров для покомпонентного тестирования, то команда обеспечения качества могла бы сэкономить много времени и сконцентрироваться на других аспектах эффективного тестирования приложения. Тем не менее, полная сводка тестирования показывает отсутствие ошибок P1. Если открытые ошибки P2 будут устранены в следующей сборке, то команда обеспечения качества может иметь время для полного цикла регрессионного тестирования и обеспечить выполнение графика разработки.
На основании накопительной сводки тестирования, приведенной выше, можно предположить, что положение становится действительно стабильным ко второму циклу тестирования. После завершения второго цикла можно предсказать успешное прохождение всех контрольных примеров модуля "XX".
(справочное)
ОТЧЕТ О ЗАВЕРШЕНИИ ТЕСТИРОВАНИЯ
Корпорация Agile - большая организация, осуществляющая публикацию журналов и книг. Более подробно она представлена в C.1 (приложение C).
Этот отчет доступен на портале проекта, и новейшая версия также вывешена в правом нижнем углу доски истории в комнате разработки, где это разрабатывается и обновляется.
Traditional Ltd - небольшая компания, которая производит передовое аналитическое оборудование для сельскохозяйственной промышленности. Более подробно она представлена в C.1 (приложение C).
Продукт-блок для ПК проекта UV/TIT-14 33a
Отчет о завершении тестирования системы, V 1.0, 08.11.2004
Записано менеджером по Тестированию Кайро Тайтлефсеном, утверждено менеджером проекта Бенедиктом Райтергом.
Сводка выполненного тестирования:
- Была создана спецификация тестирования; она включала в себя 600 процедур тестирования.
- Тестовая среда была установлена согласно плану.
- Выполнение теста и его запись выполнялись согласно плану.
Отклонения от запланированного тестирования: Спецификация требований была обновлена во время тестирования к V5.6. Это вызвало перезапись нескольких контрольных примеров, но не оказало влияние на график.
Оценка завершения тестирования: Все процедуры тестирования должны выполняться без отказов с уровнем серьезности 1 ("Высокий"). Это не было выполнено, потому что одна процедура тестирования не выполнялась. Однако требование, к которому относится эта процедура тестирования, имеет настолько низкий уровень риска, что тестирование было принято владельцем продукта.
Факторы, которые блокировали прогресс: Нет.
Показатели тестирования:
Одна из 600 запланированных процедур тестирования (процедура тестирования 4.7) не выполнялась вообще из-за отсутствия времени. Все выполненные 599 процедур тестирования успешно прошли в конце этих трех недель.
Во время тестирования было обнаружено 83 инцидента и 83 было разрешено. Эти инциденты, о которых докладывалось, имели номера от 107 до 189.
Затраченное рабочее время:
- 164 часа затрачено на разработку спецификации тестирования;
- 10 часов затрачено на установление тестовой среды;
- 225 часов затрачено на выполнение теста и запись;
- полчаса затрачено на этот отчет.
Новые, измененные и остаточные риски: Все риски, перечисленные в плане тестирования, были устранены, кроме вышеупомянутого риска за номером 19 с самым низким воздействием.
Практические результаты тестирования: Все практические результаты, определенные в плане, были согласно процедуре представлены в общую систему контроля.
Допускающие повторное использование активы тестирования: Спецификация тестирования и связанные тестовые данные и требования к тестовой среде могут быть снова использованы для тестирования обслуживания в случае необходимости.
Накопленный опыт: Исполнителей тестирования пришлось ознакомить с введением в систему, поскольку незнание системы задерживало выполнение контрольного примера. Помощь была обеспечена аналитиком в течение периода тестирования.
(справочное)
Корпорация Agile - большая организация, осуществляющая публикацию журналов и книг. Более подробно она представлена в C.1 (приложение C).
Эта спецификация проекта тестирования размещена на портале проекта, и новейшая версия также вывешена в правом верхнем углу доски истории в комнате разработки в соответствии с планом тестирования.
Traditional Ltd - небольшая компания, которая производит передовое аналитическое оборудование для сельскохозяйственной промышленности. Более подробно она представлена в C.1 (приложение C).
Спецификация Проекта Тестирования
Для лучшего понимания основы Спецификации Проекта Тестирования далее приводится фрагмент системных требований для блока для ПК UV/TIT-14 33a.
Спецификация системных требований для блока для ПК UV/TIT-14 33a (фрагмент)
4.1 Установка
4.1.1 [22] Система должна иметь установочное меню со следующими пунктами меню:
- установка конвейера;
- калибровочная установка;
- ... установка.
4.2 Установка конвейера
4.2.1 [34] Должны быть установлены следующие параметры (числа в скобках - допустимые диапазоны):
- максимальная скорость (5 - 50 мм/с);
- минимальная рабочая скорость (2 - 10 мм/с) для конвейера (0 - для остановки).
4.2.2 [36] После завершения новой установки система должна вывести одно из следующих сообщений:
- "Установка завершена";
- "Максимальная скорость выше допустимой";
- "Минимальная скорость ниже допустимой".
4.2.3 [37] Система должна позволять пользователю выйти из функциональной установки, ничего не изменяя.
.
.
.
4.8 Анализ
4.8.1 [324] Система должна позволять пользователю устанавливать требуемый тип анализа концентрации. Типы анализа, известные системе, представлены в таблице 6.
4.8.2 [325] Система должна принимать образцы в показанных ниже диапазонах измерений. Величины, выходящие за пределы диапазонов, недопустимы. Диапазоны также приведены в таблице 6.
4.8.3 [326] На основе результатов система должна вывести на экран одно из следующих сообщений: "Принято", "Предупреждение" или "Тревога". Значения порогов даны в таблице 6.
Таблица 6
.
.
.
4.8.10 [339] Перед обработкой образца система должна гарантировать, что формат номера образца будет таким, как представлено ниже.
Формат номера образца:
Номер образца = "T" - "n [n]" - "nnn" - "dd"."mm"."yy",
где:
T - буква "A" | "S" | "M";
n - числа от 0 до 9;
dd - числа от 01 до 31;
mm - числа от 01 до 12;
yy - числа от 00 до 99.
4.8.11 [341] Система должна принимать номера образцов, состоящие из четырех частей, разделенных дефисами, а именно:
- тип действия (A, S или M);
- тип образца (одна или две цифры);
- идентификатор образца (три цифры);
- дата выборки образца.
Примеры
1 A-2-344-31.08.04
2 M 01 255 22.12.93
Примечание - При вводе образца в машину система воспринимает цифры, но игнорирует дату.
Метод обработки машиной образца определяется типом действия: A означает автоматически, S - полуавтоматически и M - вручную.
Обработка образца зависит от типа действия. В случае автоматической обработки "1" определяет печать отчета, а "2" - без печати отчета. При полуавтоматической обработке образца тип действия определяет, какой анализ должен быть выполнен. Для ручного анализа тип действия не имеет значения.
При автоматической обработке образца выполняется анализ, и результат сохраняется под именем идентификатора образца. Если идентификатор образца не будет найден в базе данных, то анализ не будет выполняться и будет выведено сообщение об ошибке, показывающее, что выборка не зарегистрирована. Этапы автоматического анализа должны быть также найдены в базе данных.
Для выполнения полуавтоматического анализа идентификатор образца должен быть найден в базе данных. Также должны быть найдены этапы и при этом определено, какие из этапов можно пропустить, если пользователь выбирает этот режим. По завершении анализа распечатывается отчет, в который включаются выполненные и пропущенные этапы.
Для ручного анализа пользователь выбирает каждый шаг самостоятельно. Пользователь должен сам написать отчет с результатами в виде текста, который распечатывается по завершении анализа.
.
.
.
4.13 Работа крышки
4.13.1 [581] Один из вариантов продукта должен быть оборудован крышкой для защиты выполняющего исследования технического персонала.
Крышка закрывает карусель во время движения. Крышка должна быть заблокирована, прежде чем карусель запущена. Не должно быть возможности открыть ее до полной остановки карусели. Имеются два датчика, определяющие блокировку крышки и движение карусели.
Если крышка заблокирована, то можно запустить карусель вперед или назад. Чтобы изменить направление, необходимо сначала остановить карусель, но не нужно открывать крышку.
Панели маневрирования имеет следующие кнопки:
- "Блокировка";
- "Открыть";
- "Вперед";
- "Назад";
- "Стоп".
Спецификация Проекта Тестирования блока для ПК UV/TIT-14 33a
Версия 1.0
Версии
1 Введение
.
.
.
1.2 Цель
Цель этой части спецификации тестирования состоит в том, чтобы представить общие сведения о том, что будет проверено при тестировании системы.
1.3 Справочные документы
Следующие документы обеспечивают базис тестирования для этого проекта тестирования:
1.4 Сокращения
PCUV - блок для ПК UV/TIT-14 33a;
TC - контрольный пример;
UC - вариант использования;
CRUD - создать, читать, обновить, удалить;
TBD - подлежит уточнению то, что еще неизвестно, но должно быть определено.
2 Наборы функций
В этой главе описывается общая структура тестирования системы PCUV, в которой тестирование разделено по общим наборам функций.
Для каждого набора функций предоставляется следующая информация:
Это тестирование разделено для следующих наборов функций:
1) (FS1) Установка системы.
2) (FS4) Калибровка UV, IR и бюреток.
3) (FS2) Идентификация компонентов.
4) (FS3) Концентрация компонентов (UV + управление бюреток).
5) (FS6) Управление системой конвейера.
Набор функций (FS1). Установка системы
Цель: Проверить установку системы, включая представленные данные и сообщения о калибровке.
Приоритет: Выше среднего.
Подход: Структурное тестирование меню, простые тестирования требований (да/нет), разбиение эквивалентности и анализ граничных значений.
Прослеживаемость: [22], [34], [35], [36], [37], ...
Набор функций (FS2). Идентификация компонентов
Цель: Проверить идентификацию и создание отчетов по компонентам.
Приоритет: Высокий.
Подход: Простое тестирование требований (да/нет), разбиение эквивалентности, анализ граничных значений, тестирование синтаксиса и тестирование дерева классификации.
Прослеживаемость: [324], [325], [326], [339], [341], ....
Набор функций (FS3): TBD (пока не завершено).
Набор функций (FS4): TBD (пока не завершено).
Набор функций (FS5): TBD (пока не завершено).
Набор функций (FS6): Управление системы конвейера.
Цель: Проверить систему конвейера, включая скорость, корректный запуск, позиции остановки, работу крышки и т.д.
Приоритет: Ниже среднего.
Подход:..., тестирование изменения состояния, ...
Прослеживаемость: [581], ...
3 Тестовые условия
В этой главе документированы тестовые условия для каждого набора функций.
.
.
.
3.3 Набор функций (FS2). Идентификация компонентов
Этот набор функций покрывает требования, связанные с идентификацией и созданием отчетов по компонентам. Набор функций имеет ряд условий, представленных в соответствующих подразделах связанных требований.
.
.
.
3.3.7 Тестовые условия для диапазона измерений
Тестовые условия для диапазона измерений могут быть выражены с использованием простого дерева классификации (то же, что и разбиение эквивалентности) и соответствующего анализа граничных значений. Все эти тестовые условия прослеживаются к тому же требованию, и у них тот же приоритет.
3.3.8 Тестовые условия для метода анализа
Получение тестовых условий для идентификации метода анализа из номера образца может быть выражено с помощью дерева классификации. Все эти тестовые условия прослеживаются к тому же требованию.
.
.
.
3.5 Набор функций (FS6). Управление системой конвейера
Этот набор функций покрывает требования, связанные с системой конвейера, включая скорость, корректный запуск и позиции остановки, работу крышки и т.д. Набор функций имеет ряд условий, представленных в соответствующих подразделах связанных требований.
.
.
.
3.5.2 Тестовые условия для работы крышки
Работа крышки может быть проиллюстрирована на следующей схеме конечного автомата, где состояния и переходы пронумерованы, а значение события "P" обозначает "Нажатие".
![]()
(справочное)
СПЕЦИФИКАЦИЯ КОНТРОЛЬНОГО ПРИМЕРА
Корпорация Agile - большая организация, осуществляющая публикацию журналов и книг. Более подробно она представлена в C.1 (приложение C).
Элементы тестового покрытия и контрольные примеры для истории суммированы в заголовке контрольного примера и изложены на обратной стороне карты истории следующим образом:
Traditional Ltd - небольшая компания, которая производит передовое аналитическое оборудование для сельскохозяйственной промышленности. Более подробно она представлена в C.1 (приложение C).
Спецификация Контрольного Примера для части PC UV/TIT-14 33a
Версия 1.0
Версии
1 Введение
.
.
.
1.2 Цель
Цель этой части спецификации тестирования состоит в том, чтобы перечислить контрольные примеры, полученные из тестовых условий.
1.3 Ссылочные документы
Базис тестирования для этого проекта тестирования обеспечивают следующие документы:
1.4 Сокращения
PCUV - блок для ПК UV/TIT-14 33a;
TC - контрольный пример;
UC - вариант использования;
CRUD - создать, читать, обновить, удалить;
TBD - подлежит уточнению то, что еще неизвестно, но должно быть определено.
.
.
.
2 Элементы тестового покрытия
В этом разделе описываются элементы тестового покрытия, которые могут быть получены из тестовых условий, представленных в [2].
.
.
.
2.3 Набор функций (FS2). Идентификация компонентов
Этот набор функций покрывает требования, связанные с идентификацией компонентов и созданием по ним отчетов. Набор функций имеет ряд элементов покрытия, полученных из тестовых условий; они приводятся в подразделах, соответствующих связанным требованиям.
.
.
.
2.3.7 Элементы покрытия для диапазона измерений
Есть три действительных раздела эквивалентности и шесть действительных границ (из которых две неизвестны: одна меньше 0, а другая - больше 315).
Элементы покрытия могут быть сокращены, чтобы в соответствии с 3.3.7 [2] образовать тестовые условия:
(FS2).5.2, (FS2).5.1.b, (FS2).5.2.a, (FS2).5.2.b, (FS2).5.3.a.
2.3.8 Элементы покрытия для метода анализа
Элементы покрытия являются листьями дерева классификации в 3.3.8 [2], то есть областями, отмеченными полужирным шрифтом.
Есть 10 действительных листьев (элементов покрытия).
.
.
.
2.5 Набор функций (FS6). Управление системы конвейера
.
.
.
2.5.2 Элементы покрытия для работы крышки
Чтобы получить покрытие Джоу с 0-переключателями конечного автомата в (FS6).11.1 в [2], имеются следующие 6 переходов (элементов покрытия):
В следующей таблице определены нулевые переходы, выделенные полужирным курсивом.
Имеется 14 нулевых переходов (элементов покрытия).
.
.
.
3 Контрольные примеры
В этом разделе описываются контрольные примеры, полученные из упомянутых выше элементов тестового покрытия.
.
.
.
3.3 Набор функций (FS2). Идентификация компонентов
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
3.5 Набор функций (FS6). Управление системой конвейера
.
.
.
(справочное)
СПЕЦИФИКАЦИЯ ПРОЦЕДУР ТЕСТИРОВАНИЯ
K.1.1 Пример 1.1 - Корпорация Agile
Нижеследующее было согласовано с потребителем и командой корпорации Agile. Кроме того, команда имеет возможность создавать онлайн-документацию с этой же информацией, которая представляет собой облегченную версию, охватывающую Спецификацию Тестирования, Контрольный Пример, Процедуру Тестирования и фактические результаты Тестирования первого уровня.
![]() K.1.2 Пример 1.2 - Корпорация Agile
Корпорация Agile - большая организация, осуществляющая публикацию журналов и книг. Более подробно она представлена в C.1 (приложение C).
В этом примере показано документации больше, чем при обычной динамичной разработке.
Процедура тестирования: Создание Секретарем Нового типа Подписки.
Цель (касательно спецификации): Подтверждение 214.
Приоритет: Низкий.
Запуск: Секретарь уже зарегистрирован и находится на странице поддержки подписки.
Взаимодействие: Предполагается, что процедуры тестирования обеспечения доступа секретаря к системе и т.д. были выполнены успешно.
Завершение и последующие действия: Сбросить базу данных в среде QA в состояние "Готова к тестированию".
Примечание - В зависимости от решений команды во время тестирования вышеупомянутая информация о процедуре тестирования может быть размещена в комментариях автоматизированного сценария тестирования или среди информации, связанной с исследовательским тестированием.
Traditional Ltd - небольшая компания, которая производит передовое аналитическое оборудование для сельскохозяйственной промышленности. Более подробно она представлена в C.1 (приложение C).
Спецификация Процедур Тестирования
.
.
.
2 Наборы тестов
В этом разделе описываются наборы тестов, которые будут выполняться в первом цикле выполнения. Совокупности отсортированы по наборам функций.
2.1 (FS1) Установка системы
.
.
.
2.3 (FS2) Идентификация компонентов
.
.
.
3.3 Процедуры тестирования
(справочное)
ТРЕБОВАНИЯ К ТЕСТОВЫМ ДАННЫМ
Корпорация Agile - большая организация, осуществляющая публикацию журналов и книг. Более подробно она представлена в C.1 (приложение C).
Тестовые данные:
Traditional Ltd - небольшая компания, которая производит передовое аналитическое оборудование для сельскохозяйственной промышленности. Более подробно она представлена в C.1 (приложение C).
Требования к Тестовым Данным для блока для ПК UV/TIT-14 33a
.
.
.
1.3 Справочные документы
Следующие документы обеспечивают базис тестирования для этого проекта тестирования, а, следовательно, и требования к данным.
1.4 Сокращения
PCUV - блок для ПК UV/TIT-14 33a;
NA - неприменимо;
A/D - архивируется (A) или удаляется (D);
TBD - подлежит уточнению, что еще неизвестно, но должно быть определено.
2 Подробные Требования к Тестовым Данным
Обратите внимание на то, что все данные необходимы в течение всего периода тестирования системы (см. [PTP]).
"Сброс" означает, что отдел ИТ должен быть в состоянии по запросу восстановить исходную базу данных.
(справочное)
ТРЕБОВАНИЯ К ТЕСТОВОЙ СРЕДЕ
Корпорация Agile - большая организация, осуществляющая публикацию журналов и книг. Более подробно она представлена в разделе C.1 (приложение C).
Тестовая среда:
Traditional Ltd - небольшая компания, которая производит передовое аналитическое оборудование для сельскохозяйственной промышленности. Более подробно она представлена в C.1 (приложение C).
Требования к Тестовой Среде
Дата выпуска и состояние
1 Аппаратные средства
Для тестирования необходимы три машины, работающие с операционной системой MS Windows. Администратор тестирования ответственен за приобретение и конфигурирование машин. Машины необходимы к 15 марта 2008 г., и они будут использоваться в течение двух недель.
2 Программное обеспечение
На трех машинах MS Windows должна быть установлена операционная система MS Windows XP. Все актуальные патчи и пакеты обновления для машин должны быть установлены. Администратор тестирования ответственен за приобретение и установку программного обеспечения. К 15 марта 2008 г. полностью загруженное программное обеспечение для каждой машины должно быть готово.
3 Безопасность
Меры безопасности определены в Протоколе Безопасности Корпорации. Менеджер безопасности и Руководитель тестирования отвечают за меры безопасности.
4 Инструменты
Соответствующие инструменты тестирования определены в Плане Тестирования.
(справочное)
ОТЧЕТ О ГОТОВНОСТИ ТЕСТОВЫХ ДАННЫХ
Корпорация Agile - большая организация, осуществляющая публикацию журналов и книг. Более подробно она представлена в C.1 (приложение C).
Сообщение на доске информации: На встрече Scrum доложено о готовности данных.
Traditional Ltd - небольшая компания, которая производит передовое аналитическое оборудование для сельскохозяйственной промышленности. Более подробно она представлена в C.1 (приложение C).
Отчет о Готовности Тестовых Данных
Кратко: Тестовые данные не готовы. К 22 марта 2008 г. миграция данных в тестовую среду будет завершена.
Состояние тестовых данных: В следующей таблице показано состояние каждого Требования к Тестовым Данным.
Ограничения: После завершения тестирования база данных тестирования будет обновлена. База данных подготовлена только для этого тестирования, и после тестирования данные будут содержать ограничения и находиться в состоянии системы, требующей обновления.
Заключения и рекомендации: Тестовые данные не готовы. Как было сказано ранее, данные будут готовы к 22 марта 2008 г.
(справочное)
ОТЧЕТ О ГОТОВНОСТИ ТЕСТОВОЙ СРЕДЫ
Корпорация Agile - большая организация, осуществляющая публикацию журналов и книг. Более подробно она представлена в C.1 (приложение C).
Сообщение на доске информации: На встрече Scrum доложено о готовности среды. Никакого другого отчета о готовности тестовой среды не представлено.
Traditional Ltd - небольшая компания, которая производит передовое аналитическое оборудование для сельскохозяйственной промышленности. Более подробно она представлена в C.1 (приложение C).
Отчет о Готовности Тестовой Среды
Кратко: Аппаратные и программные конфигурации тестирования готовы к тестированию. Менеджер безопасности первоначально утвердил тестовую среду и выполнит другой анализ, как только будет завершена миграция данных. Инструменты тестирования, определенные в Плане Тестирования, готовы к запуску тестирования.
Состояние тестовой среды: В следующей таблице показано состояние каждого требования к тестовой среде.
(справочное)
ФАКТИЧЕСКИЕ РЕЗУЛЬТАТЫ
P.1 Пример 1 - Корпорация Agile
Корпорация Agile - большая организация, осуществляющая публикацию журналов и книг. Более подробно она представлена в C.1 (приложение C).
Фактические результаты:
P.2 Пример 2 - Traditional Ltd
Traditional Ltd - небольшая компания, которая производит передовое аналитическое оборудование для сельскохозяйственной промышленности. Более подробно она представлена в C.1 (приложение C). Документирование фактических результатов произведено непосредственно в форме процедуры тестирования и выделено далее курсивом.
(справочное)
РЕЗУЛЬТАТЫ ТЕСТИРОВАНИЯ
Q.1 Пример 1 - Корпорация Agile
Корпорация Agile - большая организация, осуществляющая публикацию журналов и книг. Более подробно она представлена в C.1 (приложение C).
Q.2 Пример 2 - Traditional Ltd
Traditional Ltd - небольшая компания, которая производит передовое аналитическое оборудование для сельскохозяйственной промышленности. Более подробно она представлена в C.1 (приложение C).
Документирование фактических результатов тестирования произведено непосредственно в форме процедуры тестирования и выделено далее курсивом.
(справочное)
ЖУРНАЛ ВЫПОЛНЕНИЯ ТЕСТА
Корпорация Agile - большая организация, осуществляющая публикацию журналов и книг. Более подробно она представлена в C.1 (приложение C).
Между корпорацией Agile и потребителем было заключено соглашение о том, что не требуется создания журнала выполнения теста.
Traditional Ltd - небольшая компания, которая производит передовое аналитическое оборудование для сельскохозяйственной промышленности. Более подробно она представлена в C.1 (приложение C).
Ниже приведена выдержка из Журнала Выполнения Тестирования системы блока для ПК UV/TIT-14 33a.
![]() Следует обратить внимание на следующие отклонения от Журнала Выполнения Теста, определенного в 7.11:
- вместо уникального идентификатора используется дата;
- "Время" названо "Дата" и регистрируется только дата;
- "Описание" называется "Запись в журнале";
- отсутствует столбец "Влияние".
(справочное)
Корпорация Agile - большая организация, осуществляющая публикацию журналов и книг. Более подробно она представлена в C.1 (приложение C).
Ниже представлен шаблон отчета об инциденте, используемый в корпорации Agile. Желательно, чтобы все инциденты рассматривались, как только команда обнаруживала их, так что эта форма используется только как последнее доступное средство.
Следует обратить внимание на то, что шаблон охватывает только признание (или установку) статуса и что в ней не представлено никакой фактической информации об инциденте. Ниже показано, что этот отчет используется только для клиентского испытания с участием потребителя. Отчет не используется для пробных прогонов или технологического тестирования, осуществляемого разработчиками, при котором команда итерации исправляет внутренние элементы.
Traditional Ltd - небольшая компания, которая производит передовое аналитическое оборудование для сельскохозяйственной промышленности. Более подробно она представлена в C.1 (приложение C).
Ниже приводится отчет об инциденте, используемый в Traditional Ltd. Он охватывает только признание (или установку) статуса, и в нем не представлено никакой фактической информации об инциденте.
(справочное)
T.1 Связь с ИИЭР 829:2008
T.2 Связь с ИСО/МЭК 15289:2011
T.3 Связь с BS 7925-2:1998
T.4 Связь с ИСО/МЭК 25051:2006
(справочное)
НАЦИОНАЛЬНЫМ СТАНДАРТАМ РОССИЙСКОЙ ФЕДЕРАЦИИ
Таблица ДА.1
Вернуться в "Каталог нормативных документов"
Источник информации: https://internet-law.ru/documents/prod/gost-r_gosudarstvennyj-standart/33/gost_19631.html
На правах рекламы:
|
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||