Quantization이란?
양자화(Quantization)란, 연속적인 실수 값을 더 적은 비트 수로 표현되는 정수 값으로 근사하는 과정이다.
딥러닝 모델에서는 보통 FP32 부동소수점을 사용하지만, 이를 INT8, INT4와 같은 저비트 정수로 변환하여 모델을 더 작고, 빠르고, 효율적으로 만드는 것이 목적이다.
즉, 양자화는 정확도의 손실을 최소화하면서 모델의 메모리 사용량과 연산량을 줄이는 핵심 기술인 것이다.
Quantization의 필요성
딥러닝 모델이 점점 대규모화되면서, 이를 실제 환경에서 효율적으로 활용하기 위해서는 모델 경량화와 최적화가 필수적이다. 그 중심에 있는 기술이 바로 양자화(Quantization)이다. 양자화가 필요한 이유는 크게 세 가지로 정리할 수 있다.
첫째, 메모리 절약이다. 부동소수점 32비트(FP32)로 표현된 모델을 8비트 정수(INT8)로 변환하면, 메모리 사용량을 약 4분의 1 수준으로 줄일 수 있다. 이러한 절감 효과는 대규모 서버 환경뿐만 아니라, 메모리 용량이 한정된 모바일 기기, 소형 CCTV, IoT 장치와 같은 엣지 디바이스에서 특히 중요한 의미를 가진다.
둘째, 연산 속도 향상이다. 대부분의 하드웨어는 정수 연산을 부동소수점 연산보다 훨씬 빠르게 처리할 수 있도록 설계되어 있다. 따라서 모델을 양자화하면 동일한 연산을 더 짧은 시간 안에 수행할 수 있으며, 이는 곧 추론 속도의 향상으로 이어진다. 실시간 영상 분석이나 음성 인식처럼 지연(latency)에 민감한 응용 분야에서 이 장점은 매우 크게 작용한다.
셋째, 전력 효율성이다. 정수 연산은 부동소수점 연산보다 전력 소모가 훨씬 적다. 이로 인해 데이터 센터 규모의 대규모 서비스 운영에서는 전기 사용량을 줄일 수 있고, 배터리 기반의 모바일 기기나 IoT 센서에서는 사용 시간을 늘리는 효과를 기대할 수 있다.
결국, 양자화는 단순한 최적화 기법을 넘어 모델을 실제 환경에서 활용 가능하게 만드는 필수 기술이다. 메모리 절약, 속도 향상, 전력 효율성이라는 세 가지 요소는 오늘날 딥러닝 모델이 클라우드에서 엣지까지 확산될 수 있도록 하는 핵심 동력이라고 할 수 있다.
Quantization의 방식
양자화는 모델을 더 가볍고 효율적으로 만드는 과정이지만, 그 접근 방식에 따라 두 가지 큰 범주로 나눌 수 있다. 바로 사후 양자화(Post-Traning Quantization, PTQ)와 양자화 인지 학습(Quantization-Aware Training, QAT)이다.
먼저, Post-Traning Quantization(PTQ)은 학습이 완료된 모델을 사후에 양자화하는 방식이다. 이미 학습이 끝난 모델을 변환하기 때문에 구현이 간단하고 처리 속도도 빠르다는 장점이 있다. 실제로 많은 응용에서 가장 손쉽게 활용되는 방법이다.
그러나 이 방식은 초저비트(예: 4비트 이하) 환경에서는 정확도 손실이 크게 나타날 수 있다는 한계가 있다. 따라서 PTQ는 주로 8비트 양자화를 표준으로 할 때 안정적으로 쓰인다.
반면, Quantization-Aware Training(QAT)은 학습 과정 자체에서 양자화를 고려하는 방법이다. 학습 시 모델이 양자화 효과를 미리 경험하도록 시뮬레이션하기 때문에, 최종 모델이 양자화된 환경에서도 높은 정확도를 유지할 수 있다. 이 방식은 특히 초저비트 양자화에서 성능 저하를 최소화할 수 있다는 강점을 가진다. 다만, 학습 비용이 늘어나고 구현이 복잡하다는 점은 단점으로 꼽힌다.
정리하자마녀, PTQ는 간단하고 빠른 배포에 적합한 방식, QAT는 정확도를 중요시하는 고난도 환경에 적합한 방식이라고 할 수 있다. 실제 연구와 산업 현장에서는 두 방식을 상황에 따라 적절히 선택하거나, 서로 결합하여 사용하는 경우도 많다.
연구의 발전 흐름(2019-2025)
2019–2020: CNN 중심 8-bit 정착
- MobileNet, EfficientNet 등 경량 CNN에서 8-bit PTQ/QAT가 표준화.
- HAWQ, HAQ, LSQ, AdaRound, ZeroQ 등 혼합정밀·무데이터 양자화 연구 시작.
2021–2022: Transformer·LLM 진입
- BRECQ, PTQ4ViT, Q-ViT → ViT 양자화 가능성 제시.
- ZeroQuant, GPTQ → LLM을 8/4bit로 줄이는 방법 등장.
2023: LLM 4-bit 혁신
- SmoothQuant: LLM 활성 outlier 보정, INT8 안정화.
- AWQ: Activation-aware Weight Quantization, 4-bit weight-only 안정화.
- QLoRA: 4-bit + LoRA 결합, 대형 LLM 파인튜닝 대중화.
2024: 멀티모달·시스템 최적화
- KV 캐시 양자화(ZIPCache 등)로 장문 컨텍스트 처리 가능.
- AQLM: 2–3bit 영역에서 정확도 개선.
- MobileNetV4: 양자화 친화적 구조 설계.
2025: 초저비트 안정화 + 하드웨어 결합
- LeanQuant, PTQ1.61: 2bit, 심지어 1.6bit까지 도전.
- KV Cache 2bit 실용화 (SinkQ, Outlier Token Tracing).
- SmolVLA: 소형·저자원 멀티모달 모델 → 엣지 디바이스 적용 확산.
정리
양자화(Quantization)는 단순히 모델을 작게 만드는 압축 기법에 머무르지 않는다. 오히려 오늘날의 인공지능을 실제 환경에서 활용 가능하게 만드는 핵심 동력으로 자리 잡고 있다. 대규모 언어 모델(LLM), 멀티모달 인공지능, 그리고 소형 CCTV나 스마트폰, IoT 기기와 같은 자원 제약이 큰 장치까지 양자화는 다양한 환경에서 AI가 실질적으로 동작하도록 이끄는 핵심 기술이다.
연구의 흐름을 되짚어 보면, 2019~2020년에는 CNN 기반 모델에서 8비트 양자화가 표준화되며 효율적인 모델 경량화가 자리 잡았다. 이후 2023년에는 LLM에 4비트 양자화 기법이 적용되면서 대형 모델의 파인튜닝과 배포가 훨씬 실용적으로 변했다. 그리고 2025년 현재, 연구의 초점은 2비트 이하 초저비트 양자화의 안정화와 하드웨어와의 긴밀한 결합으로 옮겨가고 있다.
결국 양자화는 과거에는 모델 최적화의 보조적인 기법으로 여겨졌지만, 이제는 AI의 확장성과 보급성을 결정짓는 핵심 연구 분야로 발전했다고 할 수 있다.
