Stationarity(정상성)
데이터의 평균, 분산, 확률분포와 같은 확률적(통계적) 성질들이 시간의 흐음에 따라 변하지 않는것을 의미한다. 즉, 시간이 변하더라고 동일한 패턴이 나타남을 의미한다.
영상에서의 정상성
영상 데이터에서는 한 영역에 대한 통계가 다른 부분들과 동일하다고 가정한다. 즉, 이미지에서 한 특징이 위치와 관계없이 다수 존재할 수 있으며, 결국 학습한 특징 파라미터를 이용해 다른 위치에서도 동일한 특징을 추출할 수 있음을 의미한다.
CNN 알고리즘에서는 이미지 필터를 통해 특정 부분에 대한 통계량을 학습하고 이를 이용하여 동일한 통계량을 갖는 영역에 대한 파라미터를 학습하고 이를 추론에 사용할 수 있다.
Equivariance (등변성)과 Invariance (불변성)
Equivariance
함수의 입력이 바뀌면 출력도 같이 바뀌는 성질을 의미한다.
Invariance
함수의 입력과 상관없이 출력은 항상 같은 결과를 갖는 성질을 의미한다.
CNN model에서의 등변성과 불변성
CNN은 크게 영상 데이터의 특징을 추출하는 부분과 추출된 특징을 분석하는 부분으로 나눠진다. 특징 추추출 부분은 입력 영상의 특정 영역(pixel coordinate)에서 얻은 특징을 해당 위치 정보를 그대로 가지고있다. 이는 Equivariance 한 특성을 가지고 있다고 볼 수 있다.
반면, 특징 분류 부분은 앞에서 추출한 특징을 가지고 위치와 관계없이 확률적으로 분류하기 때문에 영상 데이터의 위치와 관계없이 추출된 특징에 존재하는 특징에 따라서 확률값을 출력한다. 따라서 Invariance한 특성을 가지고 있다고 볼 수 있다.
