테스트
애플리케이션에 잠재되어 있는 결함을 찾아내는 일련의 행위 또는 절차
기본 원리 | 설명 |
---|
완벽한 테스트 불가능 | 소프트웨어의 잠재적인 결함을 줄일 수 있지만 소프트웨어에 결함이 없다고 증명할 수는 없음 |
파레토 법칙 (Pareto Paradox) | 20%에 해당하는 코드에서 전체 결함의 80%가 발견된다는 법칙 |
살충제 패러독스 (Pesticide Paradox) | 동일한 테스트 케이스로 테스트를 반복하면 더 이상 결함이 발견되지 않는 현상 |
테스팅은 정황 (Context) 의존 | 정황(Context)에 따라 테스트 결과가 달라질 수 있으므로, 정황에 따라 테스트를 다르게 수행해야 함 |
오류-부재의 궤변 (Absense of Errors Fallacy) | 결함을 모두 제거해도 사용자의 요구사항을 만족시키지 못하면 해당 소프트웨어는 품질이 높다고 말할 수 없는 것 |
테스트와 위험은 반비례 | 테스트를 많이 할수록 미래에 발생할 위험을 줄일 수 있음 |
테스트의 점진적 확대 | 테스트는 작은 부분에서 시작하여 점점 확대하며 진행해야 함 |
테스트의 별도 팀 수행 | 테스트는 개발자와 관계 없는 별도의 팀에서 수행해야 함 |
테스트의 분류
- 프로그램 실행 여부에 따른 테스트
- 정적 테스트
- 프로그램을 실행하지 않고 명세서나 소스코드를 대상으로 분석하는 테스트
- 소스 코드에 대한 코딩 표준, 스타일, 복잡도, 남은 결함 등을 발견하기 위해 사용
- 종류 : 워크스루(Walkthrough, 검토 회의), 인스펙션(Inspection), 코드 검사 등
- 동적 테스트
- 프로그램을 실행하여 오류를 찾는 테스트
- 소프트웨어 개발의 모든 단계에서 테스트를 수행
- 종류 : 블랙박스 테스트, 화이트박스 테스트
- 테스트 기반에 따른 테스트
- 명세 기반 테스트
- 사용자의 요구사항에 대한 명세를 빠짐없이 테스트 케이스로 만들어 구현하고 있는지 확인하는 테스트
- 종류 : 동등 분할, 경계 값 분석 등
- 구조 기반 테스트
- 소프트웨어 내부의 논리 흐름에 따라 테스트 케이스를 작성하고 확인하는 테스트
- 종류 : 구문 기반, 결정 기반, 조건 기반 등
- 경험 기반 테스트
- 유사 소프트웨어나 기술 등에 대한 테스터의 경험을 기반으로 수행하는 테스트
- 사용자의 요구사항에 대한 명세가 불충분하거나 테스트 시간에 제약이 있는 경우 수행하면 효과적
- 종류 : 에러 추정, 체크 리스트, 탐색적 테스팅
- 시각에 따른 테스트
- 검증(Verification) 테스트
- 개발자의 시각에서 제품의 생산 과정을 테스트
- 제품이 명세서대로 완성되었는지 테스트
- 확인(Validation) 테스트
- 사용자의 시각에서 생산된 제품의 결과를 테스트
- 사용자가 요구한대로 제품이 완성됐는지, 제품이 정상적으로 동작하는지 테스트
- 목적에 따른 테스트
- 회복(Recovery) 테스트
- 시스템에 여러가지 결함을 주어 실패를 유도 후 올바르게 복구되는지 확인하는 테스트
- 안전(Security) 테스트
- 시스템에 설치된 시스템 보호 도구가 불법적인 침입으로부터 시스템을 보보할 수 있는지 확인하는 테스트
- 강도(Stress) 테스트
- 과도한 정보량이나 빈도 등을 부과하여 과부하 시 소프트웨어가 정상적으로 실행되는지 확인하는 테스트
- 성능(Performance) 테스트
- 실시간 성능이나 전체적인 효율성을 진단하는 테스트, 소프트웨어 응답 시간 및 처리량 등을 테스트
- 회귀(Regression) 테스트
- 소프트웨어의 변경 또는 수정된 코드에 새로운 결함이 없음을 확인하는 테스트
- 병행(Parallel) 테스트
- 변경된 소프트웨어와 기존 소프트웨어에 동일한 데이터를 입력하여 결과를 비교하는 테스트
화이트박스 테스트
원시 코드의 논리적인 모든 경로를 테스트하여 테스트 케이스를 솔계 하는 방법
- 종류
- 기초 경로 검사(Base Path Testing)
- 테스트 케이스 설계자가 절차적 설계의 논리적 복잡성을 측정할 수 있게 해주는 테스트 기법
- 대표적인 화이트박스 테스트 기법
- 제어 구조 검사(Control Structure Testing)
- 조건 검사(Condition Testing) : 프로그램 모듈 내에 있는 논리적 조건을 테스트하는 기법
- 루프 검사(Loop Testing) : 프로그램의 반복(Loop) 구조에 초점을 맞춰 실시하는 테스트 기법
- 데이터 흐름 검사(Data Flow Testing) : 프로그램에서 변수의 정의와 변수 사용의 위치에 초점을 맞춰 실시하는 테스트 기법
- 검증 기준
- 문장 검증(Statement Coverage)
- 소스 코드의 모든 구문이 한 번 이상 수행되도록 테스트 케이스 설계
- 분기 검증(Branch Coverage)
- 소스 코드의 모든 조건문에 대해 조건식의 결과가 True인 경우 False인 경우가 한 번 이상 수행되도록 테스트 케이스 설계
- 결정 검증(Decision Coverage)라고도 함
- 조건 검증(Condition Coverage)
- 소스 코드의 조건문에 포함된 개별 조건식의 결과가 True인 경우 False인 경우가 한 번 이상 수행되도록 테스트 케이스 설계
- 분기/조건 검증(Branch/Condition Coverage)
- 두 가지 기준을 모두 만족하는 설계로 조건문이 True인 경우와 False인 경우에 따라 조건 검증에 기준의 입력 데이터를 구분하는 테스트 케이스 설계
블랙박스 테스트
각 기능이 완전히 작동되는 것을 입증하는 테스트
- 종류
- 동치 분할 검사(Equivalence Partitioning Testing, 동치 클래스 분해)
- 프로그램의 입력 조건에 따라 타당한 입력 자료와 타당하지 않은 입력 자료의 개수를 균등히 하여 테스트 케이스를 정하고, 해당 입력 자료에 맞는 결과가 출력되는지 확인하는 기법
- 동등 분할 기법이라고도 함
- 경계값 분석(Boundary Value Analysis)
- 입력 조건의 경계값에서 오류가 발생될 확률이 높다는 점을 이용해 입력 조건의 경계값을 테스트 케이스로 선정 후 검사하는 기법
- 원인-효과 그래프 검사(Cause-Effect Graphing Testing)
- 입력 데이터 간의 관계와 출력에 영향을 미치는 상황을 체계적으로 분석 후 효용성이 높은 테스트 케이스를 선정하여 검사하는 기법
- 오류 예측 검사(Error Guessing)
- 과거의 경험이나 확인자의 감각으로 테스트 하는 기법
- 비교 검사(Comparison Testing)
- 여러 버전의 프로그램에 동일한 테스트 자료를 제공해 동일한 결과가 출력되는지 테스트 하는 기법
개발 단계에 따른 테스트
-
단위 테스트(Unit Test)
- 모듈이나 컴포넌트에 초점을 맞춰 테스트
- 인터페이스, 외부적 I/O, 자료 구조, 독립적 기초 경로, 오류 처리 경로, 경계 조건 등을 검사
- 사용자의 요구사항을 기반으로 한 기능성 테스트를 최우선으로 수행
- 구조 기반과 명세 기반 테스트로 나뉘지만 주로 구조 기반 테스트를 시행
-
통합 테스트(Integration Test)
- 단위 테스트가 완료된 모듈들을 결함하여 하나의 시스템으로 완성시키는 과정에서의 테스트
- 모듈 간 또는 통합된 컴포넌트 간의 상호 작용 오류 검사
-
시스템 테스트(System Test)
- 개발된 소프트웨어가 완벽하게 수행하는가를 점검하는 테스트
- 기능적, 비기능적 요구사항으로 구분하여 각각을 만족하는지 테스트
-
인수 테스트(Acceptance Test)
통합 테스트
단위 테스트가 끝난 모듈을 통합하는 과정에서 발생하는 오류 및 결함을 찾는 테스트 기법
- 종류
- 비점진적 통합 방식
- 단계적으로 통합하는 절차 없이 모든 모듈이 미리 결합되어 있는 프로그램 전체를 테스트하는 방법
- 종류 : 빅뱅 통합 테스트 방식
- 점진적 통합 방식
- 모듈 단위로 단계적으로 통합하면서 테스트하는 방법
- 종류 : 하향식/상향식 통합 테스트, 혼합식 통합 테스트
- 하향식 통합 테스트(Top Down Integration Test)
- 상위 모듈에서 하위 모듈 방향으로 통합하며 테스트하는 기법
- 절차
- 주요 제어 모듈은 작성된 프로그램을 사용, 주요 제어 모듈의 종속 모듈은 스텁(Stub)으로 대체
- 깊이 또는 넓이 우선 등의 통합 방식에 따라 하위 모듈인 스텁들이 한 번에 하나씩 실제 모듈로 교체
- 모듈이 통합될 때마다 테스트 실시
- 새로윤 오류가 발생하지 않음을 보증하기 위해 회귀 테스트 실시
- 상향식 통합 테스트(Bottom Up Integration Test)
- 하위 모듈에서 상위 모듈 방향으로 통합하며 테스트하는 기법
- 절차
- 하위 모듈들을 클러스터(Cluster)로 결합
- 상위 모듈에서 데이터의 입출력을 확인하기 위해 더미 모듈인 드라이버(Driver)를 작성
- 통합된 클러스터 단위로 테스트
- 테스트가 완료되면 클러스터는 프로그램의 구조로 상위로 이동하여 결합하고 드라이버는 실제 모듈로 대체
- 혼합식 통합 테스트
- 하위 수준에서는 상향식, 상위 수준에서는 하향식 통합을 사용하여 최적의 테스트를 지원하는 방식
- 회귀 테스팅(Regression Testing)
- 통합 테스트로 인해 변경된 모듈이나 컴포넌트에 새로운 오류가 있는지 확인하는 테스트
테스트 케이스
- 소프트웨어가 사용자의 요구사항을 정확하게 준수했는지를 확인하기 위한 테스트 항목에 대한 명세서
- 테스트 케이스의 구성 요소
ISO/IEC/IEEE 29119-3 표준 | 테스트 케이스의 구성 요소 |
---|
식별자(Identifier) | 항목 식별자, 일련번호 |
테스트 항목(Test Item) | 테스트 대상(모듈 또는 기능) |
입력 명세(Input Specification) | 입력 데이터 또는 테스트 조건 |
출력 명세(Output Specification) | 테스트 케이스 수행 시 예상되는 출력 결과 |
환경 설정(Environment Needs) | 필요한 하드웨어나 소프트웨어의 환경 |
특수 절차 요구(Special Procedure Requirement) | 테스트 케이스 수행 시 특별히 요구되는 절차 |
의존성 기술(Inter-case Dependencies) | 테스트 케이스 간의 의존성 |
테스트 시나리오
- 테스트 케이스를 적용하는 순서에 따라 여러개의 테스트 케이스를 묶은 집합
- 테스트 케이스를 적용하는 구체적인 절차 명세
- 순서에 대한 구체적인 절차, 사전 조건, 입력 데이터 등이 설정
테스트 오라클
- 테스트 결과가 올바른지 판단하기 위해 사전에 정의된 참 값을 대입하여 비교하는 기법 및 활동
- 특징
- 제한된 검증
- 테스트 오라클을 모든 테스트 케이스에 적용할 수 없음
- 수학적 기법
- 테스트 오라클의 값을 수학적 기법을 이용하여 구할 수 있음
- 자동화 가능
- 테스트 대상 프로그램의 실행, 결과 비교, 커버리지 측정 등을 자동화 가능
- 종류
종류 | 설명 |
---|
참(True) 오라클 | 모든 테스트 케이스의 입력 값에 대해 기대하는 결과를 제공 |
| 발생된 모든 오류 검출 가능 |
샘플링(Sampling) 오라클 | 특정한 테스트 케이스의 입력 값들에 대해서만 기대하는 결과를 제공하며, 전수 테스트가 불가능한 경우 사용 |
추정(Heuristic) 오라클 | 특정 테스트 케이스의 입력 값에 대해 기대하는 결과를 제공하고, 나머지 입력 값들에 대해서는 추적으로 처리 |
일관성 검사(Consistent) 오라클 | 애플리케이션 변경 발생 시, 테스트 케이스의 수행 전후의 결과 값이 동일한지를 확인 |
테스트 자동화 도구
-
정적 분석 도구(Static Analysis Tools)
-
테스트 실행 도구(Test Execution Tools)
- 스크립트 언어를 사용하여 테스트를 실행하는 도구
- 접근 방식
- 데이터 주도 접근 방식
- 키워드 주도 접근 방식
-
성능 테스트 도구(Performance Test Tools)
- 가상의 사용자를 만들어 테스트를 수행함으로써 성능의 목표 달성 여부를 확인하는 도구
-
테스트 통제 도구(Test Control Tools)
- 테스트 계획 및 관리, 테스트 수행, 결함 관리 등을 수행하는 도구
- 종류 : 형상 관리 도구, 결함 추적/관리 도구 등
-
테스트 하네스 도구(Test Harness Tools)
- 테스트가 실행될 환경을 시뮬레이션하여 컴포넌트 및 모듈이 정상적으로 테스트되도록 하는 도구
- 구성 요소
구성 요소 | 설명 |
---|
테스트 드라이버(Test Driver) | 테스트 대상의 하위 모듈을 호출, 파라미터 전달, 모듈 테스트 수행 후 결과를 도출 |
테스트 스텁(Test Stub) | 일시적으로 필요한 조건만을 가지고 있는 테스트용 모듈 |
테스트 슈트(Test Suites) | 테스트 대상 컴포넌트나 모듈, 시스템에 사용되는 테스트 케이스의 집합 |
테스트 케이스(Test Case) | 사용자의 요구사항을 정확이 준수 했는지 확인하기 위해 만들어진 테스트 항목의 명세서 |
테스트 스크립트(Test Script) | 자동화된 테스트 실행 절차에 대한 명세서 |
목 오프젝트(Mock Object) | 사전에 사용자의 행위를 조건부로 입력해 두면, 그 상황에 맞는 예정된 행위를 수행하는 객체 |
-
단계별 테스트 자동화 도구
- 계획
- 분석/설계
- 수행
- 테스트 자동화
- 정적 분석
- 동적 분석
- 성능 테스트
- 모니터링
- 관리
결함 관리
- 결함(Fault)
소프트웨어가 개발저가 설계한 것과 다르게 동작하거나 다른 결과가 발생되는 것
- 관리 프로세스
결함관리 계획
->결함 기록
->결함 검토
->결함 수정
->결함 재확인
->결함 상태 추적 및 모니터링 활동
->최종 결함 분석 및 보고서 작성
- 결함 추적 순서
결함 등록(Open)
->결함 검토(Reviewed)
->결함 할당(Assigned)
->결함 수정(Resolved)
->결함 조치 보류(Deffered)
->결함 종료(Closed)
->결함 해제(Clarified)
- 결함 분류
결함 | 설명 |
---|
시스템 결함 | 애플리케이션 환경이나 데이터베이스 처리에서 발생된 결함 |
기능 결함 | 애플리케이션의 기획, 설계, 업무 시나리오 등의 단계에서 유입된 결함 |
GUI 결함 | 사용자 화면 설계에서 발생된 결함 |
문서 결함 | 기획자, 사영자, 개발자 간의 의사소통 및 기록이 원활하지 않아 발생된 결함 |
- 결함 심각도
- 애플리케이션에 발생한 결함이 전체 시스템에 미치는 치명도를 나타내는 척도
- 결함 우선순위
- 결정적(Critical), 높음(High), 보통(Medium), 낮음(Low), 즉시 해결, 주의 요망, 대기, 개선 권고 등
- 결함 관리 도구
- Mantis
- 결함 및 이슈 관리 도구, 소프트웨어 설계 시 단위별 작업 내용을 기록할 수 있어 결함 추적도 가능
- Trac
- 결함 추적은 물론 결함을 통합하여 관리할 수 있는 도구
- Redmine
- Bugzilla
- 결함을 지속적으로 관리 가능한 도구
- 결함의 심각도 및 우선순위 지정 가능
성능 개선
- 클린코드 작성 원칙
- 가독성
- 단순성
- 의존성 배제
- 중복성 최소화
- 추상화
- 품질 분석 도구 종류
도구 | 설명 |
---|
pmd | 미사용 변수 등 결함을 유발할 수 있는 코드 검사 |
cppcheck | C,C++코드에 대한 메모리 누수, 오버플로우 등 분석 |
SonarQube | 소스 분석 통합 플랫폼 |
checkstyle | Java 코드에 대해 소스 코드 표준을 따르는지 검사 |
ccm | 다양한 언어의 코드 복잡도 분석 |
cobertura | Java의 소스 코드 복잡도 분석 및 테스트 커버리지 측정 |
Avalanche | Valgrind 프레임워크 및 STP 기반으로 구현되었으며, 프로그램에 대한 결함 및 취약점 등 분석 |
Valgrind | 프로그램 내에 존재하는 메모리 및 쓰레드 결함 등 분석 |
- 정적 분석 도구
pmd, cppcheck, SonarQube, checkstyle, ccm, cobertura 등
- 동적 분석 도구
Avalanche, Valgrind 등