양자화(Quantization)는 연속치함수(아날로그 신호 또는 그의 샘플링)를 이산치함수로 바꾸는 과정을 말한다. 어떤 범위 안의 값들을 모두 한 값으로 바꿔버림으로써 저장할 데이터의 양을 대폭 줄인다. 양자화는 공학 부분에서 용량을 줄이기 위해 자주 사용된다. 양자화를 통한 압축을 손실 압축이라고 한다. 양자화한 값에 음수가 들어가면 용량이 두배로 커질 수 밖에 없으므로 대부분 양수를 사용한다.
아날로그 신호를 디지털로 바꾸는 ADC(Analog-to-Digital Converter) 과정은 크게 세 단계로 나뉜다.
1. 표본화 (Sampling): 시간을 잘게 쪼갠다. (가로축의 이산화)
2. 양자화 (Quantization): 값을 잘게 쪼개어 가장 가까운 정수값으로 퉁친다. (세로축의 이산화)
3. 부호화 (Encoding): 0과 1의 이진수로 변환한다.
이 중 양자화는 실제 값과 근사한 값 사이의 차이인 양자화 오차(Quantization Error)를 발생시킨다. 이를 신호 처리에서는 잡음(Noise)으로 취급한다. 예컨대 10.7이라는 값을 정수로 양자화하면 11이 된다. 이때 0.3만큼의 오차(정보 손실)가 발생한다.
