수학과 디지털 신호 처리에서 양자화는 유한 집합에 대량의 입력값을 매핑하는 과정을 말한다.
연속적인 값을 일정한 단위 또는 정해진 룰에 따른 단위의 한정된 개수의 값으로 반올림, 올림, 내림 등의 방법을 이용하여 대응시키는 과정이다.
Quantization Error(양자화 오류) : 연속적인 값을 불연속적인 값으로 매핑하는 양자화 과정에서 잃어버린 정보를 양자화 오류라고 한다.
Step Size : 양자화에서 이전 매핑 단위와 다음 매핑 단위 사이의 간격을 Step Size라고 한다.
양자화 간격을 연속적인 입력 신호를 한정된 개수의 균일한 간격으로 나누는 것이다.
양자화 간격을 연속적인 입력신호를 한정된 개수의 비균일한 간격으로 나누는 것이다. 보통 Logarithmic 간격을 사용한다.
한정된 리소스를 효율적으로 사용할 수 있다.
입력 신호 하나하나에 대하여 독립적으로 수행하는 것이다.
입력 신호 여러 개를 묶어서 수행하는 것이다.
[1.2, 1.5, 2.9, 0.4] 를 [0, 1, 2, 3]의 uniform한 프레임으로 매핑한다.
방법은 uniform, round-off를 사용한다.
양자화 결과 : [1, 2, 3, 0]
Step Size : 1
Quantization Error 총합 : 1.2