Pairwise Independent Combinatorial Testing
PICT generates test cases and test configurations. With PICT, you can generate tests that are more effective than manually generated tests and in a fraction of the time required by hands-on test case design.
PICT runs as a command line tool. Prepare a model file detailing the parameters of the interface (or set of configurations, or data) you want to test. PICT generates a compact set of parameter value choices that represent the test cases you should use to get comprehensive combinatorial coverage of your parameters.
For instance, if you wish to create a test suite for partition and volume creation, the domain can be described by the following parameters: Type, Size, File system, Format method, Cluster size, and Compression. Each parameter has a limited number of possible values, each of which is determined by its nature (for example, Compression can only be On or Off) or by the equivalence partitioning (such as Size).
Type: Single, Span, Stripe, Mirror, RAID-5
Size: 10, 100, 500, 1000, 5000, 10000, 40000
Format method: Quick, Slow
File system: FAT, FAT32, NTFS
Cluster size: 512, 1024, 2048, 4096, 8192, 16384, 32768, 65536
Compression: On, Off
There are thousands of possible combinations of these values. It would be difficult to test all of them in a reasonable amount of time. Instead, we settle on testing all possible pairs of values. For example, {Single, FAT} is one pair, {10, Slow} is another; one test case can cover many pairs. Research shows that testing all pairs is an effective alternative to exhaustive testing and much less costly. It will provide very good coverage and the number of test cases will remain manageable.
More information
See doc/pict.md for detailed documentation on PICT and http://pairwise.org has details on this testing methododology.
The most recent pict.exe is available at https://github.com/microsoft/pict/releases/.
Contributing
PICT consists of the following projects:
- api: The core combinatorial engine,
- cli: PICT.EXE command-line tool,
- clidll: PICT.EXE client repackaged as a Windows DLL to be used in-proc,
- api-usage: A sample of how the engine API can be used,
- clidll-usage: A sample of how the PICT DLL is to be used.
Building and testing on Windows with MsBuild
Use pict.sln to open the solution in Visual Studio 2019. You will need VC++ build tools installed. See https://www.visualstudio.com/downloads/ for details.
PICT uses MsBuild for building. _build.cmd script in the root directory will build both Debug and Release from the command-line.
The test folder contains all that is necessary to test PICT. You need Perl to run the tests. _test.cmd is the script that does it all.
The test script produces a log: dbg.log or rel.log for the Debug and Release bits respectively. Compare them with their committed baselines and make sure all the differences can be explained.
There are tests which randomize output which typically make it different on each run. These results should be masked in the baseline but currently aren’t.
Building on Linux, OS/X, *BSD, etc.
PICT uses CMake to build on Linux.
Assuming installation of CMake and C++ toolchain, following set of commands will build and run tests in the directory build
> cmake -DCMAKE_BUILD_TYPE=Release -S . -B build
> cmake --build build
> pushd build && ctest -v && popd
Debugging
Most commonly, you will want to debug the command-line tool. Start in the pictcli project, cli/pict.cpp file. You’ll find wmain routine there which would be a convenient place to put the very first breakpoint.
Содержание
- Использование PICT для парного тестирования (pairwise)
- Как установить pict на windows
- Как установить pict на windows
- Что пишут в блогах
- Онлайн-тренинги
- Что пишут в блогах (EN)
- Разделы портала
- Про инструменты
- PICT и Pairwise тестирование
- Pairwise testing: проблематика
- Пример, где pairwise тестирование будет, как нельзя кстати
- Суть проблемы тестирования программного обеспечения с большим количеством параметров и пути ее решения
- Pairwise testing
- Возможные варианты решения проблемы помимо pairwise тестирования
- Идея и реализация метода pairwise testing
- PICT pairwise testing
- PICT, как пользоваться?
- Недостатки PICT
- Как установить pict на windows
- Available on
- Description
Использование PICT для парного тестирования (pairwise)
Pairwise тестирование (Парное тестирование) — это метод позволяет обнаруживать дефекты с использованием комбинационного метода двух тестовых случаев. Он основан на наблюдении, что большинство дефектов вызвано взаимодействием не более двух факторов. Следовательно, выбирается пара из двух тестовых параметров, и все возможные пары этих двух параметров отправляются в качестве входных параметров для целей тестирования.
Этот метод используется, когда количество входных параметров велико. Например, мы хотим протестировать разделы системного диска с параметрами:
Type: Primary, Logical, Single, Span, Stripe, Mirror, RAID-5
Size: 10, 100, 500, 1000, 5000, 10000, 40000
Format method: quick, slow
File system: FAT, FAT32, NTFS
Cluster size: 512, 1024, 2048, 4096, 8192, 16384, 32768, 65536
Compression: on, off
В Итоге получается 4 704 комбинацией случаев. Метод парного тестирования позволяет существенного сократить количество комбинаций.
Для удобства получения выходного множества тестов существует программа от Microsoft PICT. Установите ее себе на компьютер. Программа работает из командной строки.
Например, сохраним описанные ранее параметры в текстовый файл:
В командной строке вводим входной и выходной файл:
Входной файл model.txt, в выходном файле model_out.xls будет содержаться таблица всех возможных тестов по методу парного тестирования:
В данном случае количество тест кейсов уменьшилось с 4 704 до 60. Это существенно сократит время и ресурсы на тестирование.
Источник
Как установить pict на windows
Pairwise Independent Combinatorial Testing
PICT generates test cases and test configurations. With PICT, you can generate tests that are more effective than manually generated tests and in a fraction of the time required by hands-on test case design.
PICT runs as a command line tool. Prepare a model file detailing the parameters of the interface (or set of configurations, or data) you want to test. PICT generates a compact set of parameter value choices that represent the test cases you should use to get comprehensive combinatorial coverage of your parameters.
For instance, if you wish to create a test suite for partition and volume creation, the domain can be described by the following parameters: Type, Size, File system, Format method, Cluster size, and Compression. Each parameter has a limited number of possible values, each of which is determined by its nature (for example, Compression can only be On or Off) or by the equivalence partitioning (such as Size).
There are thousands of possible combinations of these values. It would be difficult to test all of them in a reasonable amount of time. Instead, we settle on testing all possible pairs of values. For example, is one pair, is another; one test case can cover many pairs. Research shows that testing all pairs is an effective alternative to exhaustive testing and much less costly. It will provide very good coverage and the number of test cases will remain manageable.
See doc/pict.md for detailed documentation on PICT and http://pairwise.org has details on this testing methododology.
PICT consists of the following projects:
Building and testing on Windows with MsBuild
Use pict.sln to open the solution in Visual Studio 2019. You will need VC++ build tools installed. See https://www.visualstudio.com/downloads/ for details.
PICT uses MsBuild for building. _build.cmd script in the root directory will build both Debug and Release from the command-line.
The test folder contains all that is necessary to test PICT. You need Perl to run the tests. _test.cmd is the script that does it all.
The test script produces a log: dbg.log or rel.log for the Debug and Release bits respectively. Compare them with their committed baselines and make sure all the differences can be explained.
There are tests which randomize output which typically make it different on each run. These results should be masked in the baseline but currently aren’t.
Building with clang++ on Linux, OS/X, *BSD, etc.
Install clang through your package manager (most systems), Xcode (OS/X), or from the LLVM website. On Linux, you also need to install recent GNU’s «libstdc++» or LLVM’s «libc++».
Run make to build the pict binary.
Run make test to run the tests as described above (requires Perl).
Источник
Как установить pict на windows
Что пишут в блогах
Онлайн-тренинги
Что пишут в блогах (EN)
Разделы портала
Про инструменты
Если в качестве инструмента у вас имеется лишь молоток, каждая проблема начинает напоминать гвоздь. Абрахам Маслоу
В этой небольшой заметке я бы хотел рассмотреть инструмент для попарного тестирования от Microsoft – PICT (Pairwise Independent Combinatorial Testing). Уже несколько раз я применял его в своей работе и был доволен теми гибкими опциями, которые он имеет.
Для начала неплохо вспомнить, что такое Pairwise Testing. Есть интересная статья про парное тестирование на MSDN. Также про это можно почитать тут. Вкратце, Pairwise testing – это техника формирования наборов тестовых данных. Заключается она в следующем: формируются такие наборы данных, в которых каждое тестируемое значение каждого из проверяемых параметров хотя бы единожды сочетается с каждым тестируемым значением всех остальных проверяемых параметров. Предыдущее предложение может быть не совсем понятным, но принцип можно легко проиллюстрировать на следующем примере. Представим, что у нас есть параметры A, B и C принимающие значения Yes или No. Максимальное количество комбинаций значений этих параметров – 8. Но при использовании попарного тестирования достаточно четырех комбинаций, так как учитываются все возможные пары параметров (пара A и B, пара B и C, пара A и C):
Эту технику полезно применять тогда, когда нам не нужны все возможные сочетания значений параметров (особенно когда параметров много), а мы хотим только убедиться, что мы проверим все уникальные пары значений параметров.
Так что же PICT? PICT позволяет генерировать компактный набор значений тестовых параметров, который представляет собой все тестовые сценарии для всестороннего комбинаторного покрытия ваших параметров. К примеру представим, что у нас есть следующие параметры для тестирования (параметры относятся к тестированию создания разделов на жестком диске и взят из мануала к PICT):
Существует больше 4700 комбинаций этих значений. Будет очень сложно протестировать из за разумное время. Исследования показывают, что тестирование всех пар возможных значений обеспечивает очень хорошее покрытие и количество тест кейсов остается в пределах разумного. К примеру, это одна пара и другая; один тест кейс может покрывать много пар. Для набора приведенных выше параметров PICT создаст всего 60 тест кейсов (сравните с цифрой 4700!).
Рассмотрим работу с программой. Запускается PICT из командной строки.
На вход программа принимает простой текстовый файл с параметрами и их значениями, называемый Моделью, а на выход выдает сгенерированные тестовые сценарии.
Рассмотрим работу программы на примере из приведенной выше статьи из блога. Имеем следующие параметры и их значения: пол – мужской или женский; возраст – до 25, от 25 до 60, более 60; наличие детей – да или нет. Если перебирать все возможные значения, то количество сценариев будет 12. Составим модель и посмотрим какой результат нам выдаст программа.
Используем модель и получим 7 тестовых сценариев (вместо 12):
Разница не такая ощутимая, но она будет становится все более и более заметной при увеличении количества параметров или их значений.
Можно использовать прямой вывод и сохранение тест кейсов в Excel.
В результате будет создан Excel файл со следующим содержанием:
Но самое интересное это те возможности, которые предоставляет PICT для подобной генерации сценариев. Все они тщательно рассмотрены в мануале. Вот некоторые из них:
Источник
PICT и Pairwise тестирование
Pairwise тестирование (Парное тестирование), также известное как all pairs testing (тестирование «всех пар»), — это метод обнаружения дефектов с использованием комбинационного метода двух тестовых случаев. Он основан на наблюдении, что большинство дефектов вызвано взаимодействием не более двух факторов. Следовательно, выбирается пара из двух тестовых параметров, и все возможные пары этих двух параметров отправляются в качестве входных параметров для целей тестирования. Для облегчения генерации тестов для pairwise testing есть специальный инструментарий — PICT программа от Microsoft, о которой мы также поговорим в данной статье.
Pairwise testing приводит к сокращению количества тестовых случаев и, следовательно, к более быстрым и простым возможностям тестирования. Комбинационное тестирование более высокого порядка имеет большее количество тест кейсов, что делает тест более исчерпывающим, но также более дорогим и громоздким. Кроме того, большинство ошибок вызвано единственными входными параметрами или вызвано взаимодействием между двумя параметрами. Все эти ошибки могут быть устранены путем тестирования пар (test pair). Ошибки, вызванные взаимодействием трех или более параметров, обычно очень редки и дают меньше оснований для больших инвестиций в их поиск.
Давайте ниже рассмотрим суть проблематики, плюсы и минусы подхода а также посмотрим pairwise пример, который приложен в файле для скачивания.
Pairwise testing: проблематика
90% случаев команда тестирования должна работать в сжатые сроки. Таким образом, методы разработки тестов должны быть очень эффективными для максимального охвата и высокой вероятности обнаружения дефектов.
Примечание: Прежде чем переходить к примеру определимся с терминологией.
На экранах вы можете встретить следующие контролы – чек-боксы, листы, поля, радио-батоны и т.д.
Давайте будем их называть параметрами, а значения которые они принимают, например для дроп-даун листа это Option1, Option 2 и т.д. – это значения параметров.
Вполне возможно, что в литературе вы можете увидеть несколько другие термины, но такой русскоязычный вариант нам все же ближе…
Пример, где pairwise тестирование будет, как нельзя кстати
Предположим, что у нас есть тестируемое программное обеспечение, которое имеет набор контроллов (параметров), в свою очередь, каждый параметр может принимать значения (значения параметров), например:
Примечание: Давайте ради интереса посчитаем, какое кол-во комбинаций у нас получится…
Ради интереса, возьмем 2 шрифта (самых распространенных)*4 стиля * 3 размера(самых распространенных)*3 цвета*2 (учитываем эффекты) в 11 степени (11 переменных по 2 параметра) = 147 456
Таким образом мы подошли к сути проблемы, которая встает перед тестировщиком.
Суть проблемы тестирования программного обеспечения с большим количеством параметров и пути ее решения
Много параметров и много значений, которые принимают эти параметры, предполагают создание большого количества тестов, чтобы покрыть ими все возможные комбинации. Также абсолютно очевидно, что, сочетания этих переменных, могут вызывать ошибки. Баги из-за комбинации параметров, достаточно распространенное явление.
Закономерный вопрос тестировщика, что с этим делать? Ответ напрашивается сам собой, надо перебирать комбинации, но какие и в каком количестве? Таким образом, баги из-за «взаимодействия параметров» встречаются достаточно часто, но тестеры, порой, эти взаимодействия игнорируют из-за большого количества тестов (особенно этого пугаются новички). Тем не менее, не смотря на кажущуюся сложность вышеобозначенной задачи выход имеется и это pairwise тестирование, о котором подробнее поговорим дальше
Pairwise testing
Как мы отмечали в начале статьи, методика All Pairs testing очень полезна для разработки тестов для приложений с несколькими параметрами. Тесты составлены таким образом, что для каждой пары входных параметров системы существуют все возможные комбинации этих значений параметров. Тестовый набор охватывает все комбинации, поэтому он не является исчерпывающим, но очень эффективным в поиске ошибок.
Возможные варианты решения проблемы помимо pairwise тестирования
Прежде чем говорить о достоинствах, недостатках Pairwise тестирования а также инструментах, помогающих его реализовать, перечислим еще некоторые варианты решения вышеочерченной проблемы:
Monkey Testing
Полный перебор:
И если говорить непосредственно о pairwise testing, то данный метод базируется на исследовании, которое говорит, что 90% ошибок кроются в комбинациях пар и только 10 % ошибок дает сочетание троек, четверки. И если в кратце охарактеризоват данный метот, то это будет выглядеть следующим образом.
Метод «Всех пар» (all pairs testing)
Теперь давайте разберемся в чем заключается идея метода.
Идея и реализация метода pairwise testing
Вернемся к нашему примеру со страничкой из Word. В чем тут суть метода. Этот метод гарантирует, что мы каждый параметр протестируем в ПАРЕ со всеми другими параметрами.
Например, Arial со всеми стилями (обычный, курсив, жирный, маленький размер, белый цвет, и т.д. ) а именно со всеми значениями параметров других переменных. Тем самым мы обеспечим парное покрытие параметров, у каждого параметра будет своя пара с другим параметром из другой переменной. И так для всех. Для успешной реализации надо пройти через 3 шага:
Пример реализации этапов
Этап | Реализация pairwise тестирования |
---|---|
Определение параметров |
Итак, определяем переменные: |
Определение значений |
Каждый параметр имеет ряд значений: Примечание: обратите внимание на сокращения |
Построение таблицы |
И только на 6-ом символе у нас произошло бы переполнение и мы дописывали бы строчки. В итоге у нас количество тестов для этой таблицы сократилось с 96 до 8 (по кол-ву строк). 4-ая, 5-ая, 6-ая колонки фэйковые, чтобы ощутить размер пользы. Так как если бы мы оставили наши 3 колонки, то получилось бы 3*2*2 = 12 против 6 тестов (не очень внушающие цифры). PICT pairwise testingВозвращаясь к многострадальному примеру с Word. Как построить таблицу all pairs testing? Выход очевиден – использовать спец фриварный инструментарий, например PICT. Инструмент pairwise тестирования (PICT) может помочь вам эффективно проектировать тестовые случаи для программных систем. С помощью PICT вы можете создавать тесты более эффективно, чем тесты, созданные вручную, и создавать их за короткий промежуток времени. PICT генерирует компактный набор вариантов значений параметров, представляющих тестовые наборы, которые вы должны использовать. Это позволяет получить всесторонний комбинаторный охват ваших параметров. Если кратко охарактеризовать преимущества PICT, то можно назвать: Примечание: Плюс ко всему PICT позволяет покрывать не только пары, но и тройки (используя спец синтаксис). Теперь давайте рассмотрим, ка работать с PICT. PICT, как пользоваться?PICT работает как инструмент командной строки. Вы готовите файл модели, детализирующий параметры интерфейса (или набора конфигураций, или данных), которые вы хотите протестировать. PICT генерирует компактный набор вариантов значений параметров, которые представляют собой тестовые случаи. Процесс установки, после скачивания и разархивации: Для генерации тестовых случаев необходимо проделать несколько шагов: После чего PICT обработает txt файл и в папке появиться xls документ с набором комбинаций (пример сформированного PICT файла cases_pict.xls можно скачать ниже). Более полный набор возможностей PICT можно найти в мануале PICTHelp.htm, который находится в папке с установленным PICT. Недостатки PICTВ общем мы рассмотрели, как пользоваться pict, но несмотря на очевидные преимущества данного метода, все же с ним есть реальные проблемы. К ним относятся: При имеющихся недостатках, во многих ситуациях, пользу от использования PICT pairwise testing сложно переоценить. Ведь как показал пример с Word вместо 147456 комбинаций было сгенерировано 15 тестов. В итоге от применения pict и pairwise все счастливы! Так как эти тест сеты можно и заказчику показывать с обоснованием целесообразности сокращения количества тестов и сэкономить время на рутинной работе тестировщика. Скачать PICT и pairwise пример файла Источник Как установить pict на windowsPict lets your to organize your media library. Browse and view your photos and videos stored in any folder. View your images in fullscreen. Use the pinch-to-zoom gesture for more detailed view. Import photos from any USB device and group them by creation date. This feature helps you quickly take and organize photos from your camera after holidays. Create beautiful slideshows and display high resolution photos to your friends. Organize your photos in folders. Easily manage your folders: add, delete, rename, copy or move photos and videos between folders. Share the best photos with your friends. Publish photos from the Pict to the all popular social networks. Add comments to the photos. With Pict you can write about the place where the photo was taken, as well as those who are in the photo next to you. Available onDescriptionPict lets your to organize your media library. Browse and view your photos and videos stored in any folder. View your images in fullscreen. Use the pinch-to-zoom gesture for more detailed view. Import photos from any USB device and group them by creation date. This feature helps you quickly take and organize photos from your camera after holidays. Create beautiful slideshows and display high resolution photos to your friends. Organize your photos in folders. Easily manage your folders: add, delete, rename, copy or move photos and videos between folders. Share the best photos with your friends. Publish photos from the Pict to the all popular social networks. Add comments to the photos. With Pict you can write about the place where the photo was taken, as well as those who are in the photo next to you. Источник Adblock |
Pairwise тестирование (Парное тестирование) — это метод позволяет обнаруживать дефекты с использованием комбинационного метода двух тестовых случаев. Он основан на наблюдении, что большинство дефектов вызвано взаимодействием не более двух факторов. Следовательно, выбирается пара из двух тестовых параметров, и все возможные пары этих двух параметров отправляются в качестве входных параметров для целей тестирования.
Этот метод используется, когда количество входных параметров велико. Например, мы хотим протестировать разделы системного диска с параметрами:
Type: Primary, Logical, Single, Span, Stripe, Mirror, RAID-5
Size: 10, 100, 500, 1000, 5000, 10000, 40000
Format method: quick, slow
File system: FAT, FAT32, NTFS
Cluster size: 512, 1024, 2048, 4096, 8192, 16384, 32768, 65536
Compression: on, off
В Итоге получается 4 704 комбинацией случаев. Метод парного тестирования позволяет существенного сократить количество комбинаций.
Для удобства получения выходного множества тестов существует программа от Microsoft PICT. Установите ее себе на компьютер. Программа работает из командной строки.
Например, сохраним описанные ранее параметры в текстовый файл:
В командной строке вводим входной и выходной файл:
pict model.txt > model_out.xls
Входной файл model.txt, в выходном файле model_out.xls будет содержаться таблица всех возможных тестов по методу парного тестирования:
В данном случае количество тест кейсов уменьшилось с 4 704 до 60. Это существенно сократит время и ресурсы на тестирование.
Выходной файл model_out.xls будет содержать 60 тестовых случаев:
мType | Size | Format method | File system | Cluster size | Compression |
Mirror | 10 | quick | FAT | 32768 | off |
RAID-5 | 10 | slow | FAT32 | 512 | on |
Stripe | 500 | quick | NTFS | 512 | off |
Span | 1000 | slow | NTFS | 1024 | on |
Primary | 100 | quick | FAT32 | 16384 | off |
Single | 1000 | slow | FAT | 8192 | off |
Primary | 5000 | slow | FAT | 2048 | on |
RAID-5 | 40000 | quick | NTFS | 8192 | on |
Logical | 10 | slow | NTFS | 65536 | on |
Span | 100 | quick | FAT | 65536 | off |
Mirror | 10000 | slow | FAT32 | 65536 | on |
Logical | 1000 | quick | FAT32 | 512 | off |
Logical | 40000 | slow | FAT | 4096 | off |
Single | 1000 | quick | NTFS | 4096 | on |
Stripe | 500 | slow | FAT32 | 32768 | on |
Mirror | 100 | quick | NTFS | 2048 | off |
Span | 10 | slow | FAT32 | 4096 | off |
Single | 40000 | quick | FAT32 | 65536 | off |
RAID-5 | 5000 | quick | FAT | 65536 | off |
Stripe | 1000 | slow | FAT32 | 2048 | on |
Primary | 10000 | quick | NTFS | 8192 | off |
Span | 10000 | slow | FAT | 16384 | on |
Primary | 1000 | slow | FAT32 | 65536 | on |
Single | 5000 | quick | FAT32 | 1024 | off |
RAID-5 | 100 | slow | FAT | 1024 | on |
Single | 500 | slow | NTFS | 2048 | off |
Mirror | 500 | quick | FAT | 1024 | on |
Stripe | 100 | quick | FAT | 4096 | on |
Primary | 40000 | quick | FAT32 | 1024 | off |
Single | 10 | quick | NTFS | 16384 | on |
Logical | 5000 | slow | NTFS | 32768 | off |
Stripe | 10 | slow | FAT | 1024 | off |
Primary | 500 | slow | NTFS | 4096 | off |
Mirror | 1000 | quick | FAT | 16384 | on |
Stripe | 40000 | quick | FAT | 16384 | off |
Mirror | 10 | slow | FAT32 | 8192 | on |
Span | 40000 | quick | NTFS | 32768 | off |
Logical | 10000 | slow | NTFS | 1024 | off |
Span | 5000 | quick | FAT | 512 | on |
Logical | 100 | slow | FAT32 | 8192 | on |
RAID-5 | 500 | quick | NTFS | 16384 | on |
Stripe | 5000 | slow | NTFS | 8192 | off |
Mirror | 5000 | slow | NTFS | 4096 | off |
Span | 500 | quick | FAT | 65536 | off |
Span | 10000 | slow | NTFS | 2048 | on |
Stripe | 10000 | quick | FAT32 | 65536 | off |
Primary | 10 | quick | FAT | 2048 | off |
RAID-5 | 10000 | slow | NTFS | 4096 | on |
Primary | 10000 | quick | NTFS | 32768 | on |
RAID-5 | 1000 | quick | FAT32 | 32768 | on |
Primary | 10000 | quick | FAT | 512 | off |
Mirror | 40000 | slow | FAT32 | 512 | on |
Single | 100 | slow | NTFS | 512 | off |
Logical | 500 | quick | FAT32 | 16384 | off |
Single | 100 | slow | NTFS | 32768 | on |
Mirror | 5000 | quick | FAT32 | 16384 | off |
Span | 500 | slow | FAT | 8192 | on |
RAID-5 | 40000 | slow | FAT | 2048 | off |
Logical | 10 | quick | FAT | 2048 | off |
Single | 10000 | slow | FAT32 | 65536 | on |
Резюме
PICT (Инструмент парного независимого комбинаторного тестирования) — это инструмент для разработки тестовых случаев, используемый внутри Microsoft. В процессе фактического использования вам необходимо ввести соответствующие параметры тестового примера, после чего PICT сможет эффективно создать и спроектировать тестовый пример в соответствии с принципом попарного тестирования, чтобы получить исчерпывающую комбинацию параметров.
О комбинированном тесте два на два:
При тестировании «черного ящика» значения нескольких входных параметров часто комбинируются друг с другом. Практика и исследования показали, что около 70% сбоев программного обеспечения вызваны одним или двумя параметрами. Вызвано совместными действиями. Следовательно, комбинированное тестирование, особенно попарное комбинированное тестирование, признано очень эффективным методом тестирования программного обеспечения в реальной инженерии.
Однако в реальном рабочем процессе слишком много пар комбинаций, и PICT очень хорошо решает эту проблему.
установка
Нажмите на официальный сайт, чтобы скачать, Может использоваться после установки.
Программа установки PICT добавит путь PICT к системным переменным, чтобы мы могли запускать его с любого пути в системе.
Простой пример
PICT — это инструмент командной строки. Перед выполнением необходимо подготовить файл модели в виде обычного текста, чтобы подробно описать параметры (или набор конфигурации, набор данных и т. Д.) Тестируемого интерфейса. Следует пояснить один момент: PICT используется очень широко и не ограничивается тестированием интерфейса, функциональным тестированием и т. Д.
PICT создает набор кратких вариантов значений параметров для формирования комбинированного тестового примера покрытия. Чтобы дать простой пример, теперь есть интерфейс, и его поддерживаемые параметры:
Сначала создайте файл test.txt как файл модели, а затем введите набор параметров в текстовом инструменте. Обратите внимание, что все знаки препинания должны быть английскими:
page:int,string,
rows:int,string,
sekContract:string,int,
sekPm:string,int,
После сохранения нажмите и удерживайте shift в каталоге документа и щелкните правой кнопкой мыши, выберите «Открыть окно команд здесь», чтобы выполнитьpict test.txt
,следующее:
В этот момент pict напечатает произвольную комбинацию параметров на экране; для удобства просмотра мы также можем перенаправить вывод:
Файл модели
Разделы модели
Стандартный формат определения файла модели следующий, [разделы] означает необязательный:
# Определение параметра
parameter definitions
# Определение подмодуля
[sub-model definitions]
# Определение ограничения
[constraint definitions]
Элементы модели всегда следует указывать в указанном выше порядке и не могут перекрываться. Сначала появляется часть определения параметра, за которой следуют необязательные подмодели и определения ограничений. Если вы их используете, вам не нужны специальные разделители между параметрами. Пустые строки могут появляться где угодно. Мы можем идентифицировать комментарии по префиксу «#».
Определение ограничения
Доступны следующие операторы: =, <>,>,> =, <, <= и подстановочный знак нечеткого соответствия LIKE. В выражении нечеткого сопоставления «*» соответствует любому количеству символов, а «?» Соответствует одному символу. Для изменения приоритета оператора по умолчанию также разрешены скобки; логические операторы поддерживают IN, IF, THEN, ELSE, NOT, AND, OR;
Пример:
[Size] < 10000
[Compression] = "OFF"
[File system] like "FAT*"
IF [Cluster size] in {512, 1024, 2048} THEN [Compression] = "Off";
IF [File system] in {"FAT", "FAT32"} THEN [Compression] = "Off";
IF [File system] <> "NTFS" OR
( [File system] = "NTFS" AND [Cluster size] > 4096 )
THEN [Compression] = "Off";
IF NOT ( [File system] = "NTFS" OR
( [File system] = "NTFS" AND NOT [Cluster size] <= 4096 ))
THEN [Compression] = "Off";
Pairwise Independent Combinatorial Testing
PICT generates test cases and test configurations. With PICT, you can generate tests that are more effective than manually generated tests and in a fraction of the time required by hands-on test case design.
PICT runs as a command line tool. Prepare a model file detailing the parameters of the interface (or set of configurations, or data) you want to test. PICT generates a compact set of parameter value choices that represent the test cases you should use to get comprehensive combinatorial coverage of your parameters.
For instance, if you wish to create a test suite for partition and volume creation, the domain can be described by the following parameters: Type, Size, File system, Format method, Cluster size, and Compression. Each parameter has a limited number of possible values, each of which is determined by its nature (for example, Compression can only be On or Off) or by the equivalence partitioning (such as Size).
Type: Single, Span, Stripe, Mirror, RAID-5
Size: 10, 100, 500, 1000, 5000, 10000, 40000
Format method: Quick, Slow
File system: FAT, FAT32, NTFS
Cluster size: 512, 1024, 2048, 4096, 8192, 16384, 32768, 65536
Compression: On, Off
There are thousands of possible combinations of these values. It would be difficult to test all of them in a reasonable amount of time. Instead, we settle on testing all possible pairs of values. For example, {Single, FAT} is one pair, {10, Slow} is another; one test case can cover many pairs. Research shows that testing all pairs is an effective alternative to exhaustive testing and much less costly. It will provide very good coverage and the number of test cases will remain manageable.
More information
See doc/pict.md for detailed documentation on PICT and http://pairwise.org has details on this testing methododology.
The most recent pict.exe is available at https://github.com/microsoft/pict/releases/.
Contributing
PICT consists of the following projects:
- api: The core combinatorial engine,
- cli: PICT.EXE command-line tool,
- clidll: PICT.EXE client repackaged as a Windows DLL to be used in-proc,
- api-usage: A sample of how the engine API can be used,
- clidll-usage: A sample of how the PICT DLL is to be used.
Building and testing on Windows with MsBuild
Use pict.sln to open the solution in Visual Studio 2019. You will need VC++ build tools installed. See https://www.visualstudio.com/downloads/ for details.
PICT uses MsBuild for building. _build.cmd script in the root directory will build both Debug and Release from the command-line.
The test folder contains all that is necessary to test PICT. You need Perl to run the tests. _test.cmd is the script that does it all.
The test script produces a log: dbg.log or rel.log for the Debug and Release bits respectively. Compare them with their committed baselines and make sure all the differences can be explained.
There are tests which randomize output which typically make it different on each run. These results should be masked in the baseline but currently aren’t.
Building on Linux, OS/X, *BSD, etc.
PICT uses CMake to build on Linux.
Assuming installation of CMake and C++ toolchain, following set of commands will build and run tests in the directory build
> cmake -DCMAKE_BUILD_TYPE=Release -S . -B build
> cmake --build build
> pushd build && ctest -v && popd
Debugging
Most commonly, you will want to debug the command-line tool. Start in the pictcli project, cli/pict.cpp file. You’ll find wmain routine there which would be a convenient place to put the very first breakpoint.
Pairwise Independent Combinatorial Testing
PICT generates test cases and test configurations. With PICT, you can generate tests that are more effective than manually generated tests and in a fraction of the time required by hands-on test case design.
PICT runs as a command line tool. Prepare a model file detailing the parameters of the interface (or set of configurations, or data) you want to test. PICT generates a compact set of parameter value choices that represent the test cases you should use to get comprehensive combinatorial coverage of your parameters.
For instance, if you wish to create a test suite for partition and volume creation, the domain can be described by the following parameters: Type, Size, File system, Format method, Cluster size, and Compression. Each parameter has a limited number of possible values, each of which is determined by its nature (for example, Compression can only be On or Off) or by the equivalence partitioning (such as Size).
Type: Single, Span, Stripe, Mirror, RAID-5
Size: 10, 100, 500, 1000, 5000, 10000, 40000
Format method: Quick, Slow
File system: FAT, FAT32, NTFS
Cluster size: 512, 1024, 2048, 4096, 8192, 16384, 32768, 65536
Compression: On, Off
There are thousands of possible combinations of these values. It would be difficult to test all of them in a reasonable amount of time. Instead, we settle on testing all possible pairs of values. For example, {Single, FAT} is one pair, {10, Slow} is another; one test case can cover many pairs. Research shows that testing all pairs is an effective alternative to exhaustive testing and much less costly. It will provide very good coverage and the number of test cases will remain manageable.
More information
See doc/pict.md for detailed documentation on PICT and http://pairwise.org has details on this testing methododology.
The most recent pict.exe is available at https://github.com/microsoft/pict/releases/.
Contributing
PICT consists of the following projects:
- api: The core combinatorial engine,
- cli: PICT.EXE command-line tool,
- clidll: PICT.EXE client repackaged as a Windows DLL to be used in-proc,
- api-usage: A sample of how the engine API can be used,
- clidll-usage: A sample of how the PICT DLL is to be used.
Building and testing on Windows with MsBuild
Use pict.sln to open the solution in Visual Studio 2019. You will need VC++ build tools installed. See https://www.visualstudio.com/downloads/ for details.
PICT uses MsBuild for building. _build.cmd script in the root directory will build both Debug and Release from the command-line.
The test folder contains all that is necessary to test PICT. You need Perl to run the tests. _test.cmd is the script that does it all.
The test script produces a log: dbg.log or rel.log for the Debug and Release bits respectively. Compare them with their committed baselines and make sure all the differences can be explained.
There are tests which randomize output which typically make it different on each run. These results should be masked in the baseline but currently aren’t.
Building on Linux, OS/X, *BSD, etc.
PICT uses CMake to build on Linux.
Assuming installation of CMake and C++ toolchain, following set of commands will build and run tests in the directory build
> cmake -DCMAKE_BUILD_TYPE=Release -S . -B build
> cmake --build build
> pushd build && ctest -v && popd
Debugging
Most commonly, you will want to debug the command-line tool. Start in the pictcli project, cli/pict.cpp file. You’ll find wmain routine there which would be a convenient place to put the very first breakpoint.
Автор: Алексей Федорко
Оригинальная публикация
Если в качестве инструмента у вас имеется лишь молоток, каждая проблема начинает напоминать гвоздь. Абрахам Маслоу
В этой небольшой заметке я бы хотел рассмотреть инструмент для попарного тестирования от Microsoft – PICT (Pairwise Independent Combinatorial Testing). Уже несколько раз я применял его в своей работе и был доволен теми гибкими опциями, которые он имеет.
Для начала неплохо вспомнить, что такое Pairwise Testing. Есть интересная статья про парное тестирование на MSDN. Также про это можно почитать тут. Вкратце, Pairwise testing – это техника формирования наборов тестовых данных. Заключается она в следующем: формируются такие наборы данных, в которых каждое тестируемое значение каждого из проверяемых параметров хотя бы единожды сочетается с каждым тестируемым значением всех остальных проверяемых параметров. Предыдущее предложение может быть не совсем понятным, но принцип можно легко проиллюстрировать на следующем примере. Представим, что у нас есть параметры A, B и C принимающие значения Yes или No. Максимальное количество комбинаций значений этих параметров – 8. Но при использовании попарного тестирования достаточно четырех комбинаций, так как учитываются все возможные пары параметров (пара A и B, пара B и C, пара A и C):
Эту технику полезно применять тогда, когда нам не нужны все возможные сочетания значений параметров (особенно когда параметров много), а мы хотим только убедиться, что мы проверим все уникальные пары значений параметров.
Так что же PICT? PICT позволяет генерировать компактный набор значений тестовых параметров, который представляет собой все тестовые сценарии для всестороннего комбинаторного покрытия ваших параметров. К примеру представим, что у нас есть следующие параметры для тестирования (параметры относятся к тестированию создания разделов на жестком диске и взят из мануала к PICT):
Type: Primary, Logical, Single, Span, Stripe, Mirror, RAID-5
Size: 10, 100, 500, 1000, 5000, 10000, 40000
Format method: quick, slow
File system: FAT, FAT32, NTFS
Cluster size: 512, 1024, 2048, 4096, 8192, 16384, 32768, 65536
Compression: on, off
Существует больше 4700 комбинаций этих значений. Будет очень сложно протестировать из за разумное время. Исследования показывают, что тестирование всех пар возможных значений обеспечивает очень хорошее покрытие и количество тест кейсов остается в пределах разумного. К примеру, {Primary, FAT} это одна пара и {10, slow} другая; один тест кейс может покрывать много пар. Для набора приведенных выше параметров PICT создаст всего 60 тест кейсов (сравните с цифрой 4700!).
Рассмотрим работу с программой. Запускается PICT из командной строки.
На вход программа принимает простой текстовый файл с параметрами и их значениями, называемый Моделью, а на выход выдает сгенерированные тестовые сценарии.
Рассмотрим работу программы на примере из приведенной выше статьи из блога. Имеем следующие параметры и их значения: пол – мужской или женский; возраст – до 25, от 25 до 60, более 60; наличие детей – да или нет. Если перебирать все возможные значения, то количество сценариев будет 12. Составим модель и посмотрим какой результат нам выдаст программа.
Модель:
SEX: Male, Female
Age: Under 25, 25-60, Older than 60
Children: Yes, No
Используем модель и получим 7 тестовых сценариев (вместо 12):
Разница не такая ощутимая, но она будет становится все более и более заметной при увеличении количества параметров или их значений.
Можно использовать прямой вывод и сохранение тест кейсов в Excel.
В результате будет создан Excel файл со следующим содержанием:
Но самое интересное это те возможности, которые предоставляет PICT для подобной генерации сценариев. Все они тщательно рассмотрены в мануале. Вот некоторые из них:
- Можно указывать порядок группировки значений. По умолчанию используется порядок 2 и создаются комбинации пар значений (что и составляет попарное тестирование). Но можно указать к примеру 3 и тогда будут использоваться триплеты, а не пары. Максимальный порядок для простой модели равен количеству параметров, что создаст набор всевозможных вариантов.
- Можно группировать параметры в под-модели и указывать им отдельный порядок для комбинаций. Это необходимо если комбинации определенных параметров должны быть протестированы более тщательно или должны быть объединены по отдельности от других параметров.
- Можно создавать условия и ограничения. К примеру, можно указать, что один из параметров будет принимать определенное значение только тогда, когда несколько других параметров примут нужные значения. Это позволяет отсечь создание ненужных проверок.
- Можно обозначать не-валидные значения для параметров для создания комбинации для негативных тест кейсов.
- Используя весовые коэффициенты можно указать программе отдавать предпочтения определенным значениям при генерации комбинаций.
- Можно использовать опцию минимизации (запускать программу несколько раз с этой опцией), чтобы получить минимальное количество тест кейсов.
В заключение хочется сказать, что PICT достаточно удобный инструмент для быстрого создания набора комбинаций тестовых данных, особенно при наличии большого количества не сильно связанных между собой параметров (что позволяет не проводить тестирование всех возможных вариантов). Однако нужно тщательно создать необходимую вам Модель, чтобы тестовое покрытие было удовлетворительным. Use it wise and be happy.
Скачать PICT можно тут
Обсудить в форуме
There is another way to successfull install PI or DIS using your original non-patched installation disk!
No risky files to download!
Many thanks to Piedro that has first discovered it!
Microsoft digital image suite anniversary edition
Tested with Picture It! 7 / 9 / 10 and Digital Image Suite 2006
— Close all open programs and documents and prepare to install DIS or PI
— Start setup from your original disk
Normally you are prompted by User Account Control to give permission, authorize it.
— Choose the few options available and go on
— At some point you will be presented with the usual little error window:
— Click OK
— Next you will be presented with the second usual error window:
— Don’t click OK now, instead sign out the user
The logoff operation can’t be carried out because of that window waiting for intervention.
— Wait a few seconds and then click on Cancel, you are returned where you left
— NOW click OK
The installation will end without errors!
More for who want to use the Library
The Library exists only in PI 10 and in DIS and may not work:
you launch it but it does not open.
This typically happens on a fresh clean install of Windows 10 1709 both 32 and 64 bit.
Luckily, the fix is very simple, just add an entry (or two) in the Windows registry.
Download and open the file corresponding to your Windows version, authorize its execution, you will be prompted for confirmation two or three times.
For Windows 32 bit: SharedFilesDir 32bit.reg
For Windows 64 bit: SharedFilesDir 64bit.reg
After that the Library will work without having to do anything anymore.
Important note for owner of Windows 10 1709 32 bit
From my checks, the installation of PI or DIS on Windows 10 1709 32 bit is successful, but it also installs IE6 and this is definitely a bad thing considering that we are now at IE11 and in no way two versions of IE should coexist.
Instructions for owner of Windows 10 1709 32 bit
1) Copy the entire contents of your installation disk to a folder on the Desktop, I called this folder PIDISK.
If the PI or DIS installation media is an ISO file, just open it and it will appear and behave like a CD, then follow step 1).
2) Delete ie6setup.exe from the Desktop folder
PIDISK…RedistIE6
Close all open programs and documents.
3) Launch the installation of PI or DIS
The file to open is setup.exe in PIDISK.
Normally you are prompted by User Account Control to give permission, authorize it.
— Choose the few options available and go on
— At some point you will be presented with this error window:
— Don’t click OK now, instead sign out the user
The logoff operation can’t be carried out because of that window waiting for intervention.
— Wait a few seconds and then click on Cancel, you are returned where you left
— NOW click OK
The installation will end without errors!