양자화 · 경량화

양자화란?

양자화가 실제로 바꾸는 것은 모델의 똑똑함이 아니라 돌릴 수 있는 장소와 청구서입니다. fp16으로 70억 파라미터 모델을 올리려면 VRAM 14GB가 필요해 전용 GPU 서버를 빌려야 하지만, 4비트로 줄이면 4GB대로 내려가 사내 워크스테이션이나 업무용 노트북에도 들어갑니다. 그래서 논의의 초점이 '더 좋은 모델을 쓸까'에서 '우리 장비 안에 들어오는가'로 옮겨갑니다. 월 수백만 원대 GPU 임대료가 장비 한 대 구입비로 대체되고, 외부 API를 못 쓰는 폐쇄망 공장이나 병원에서 AI 도입이 시작되는 지점도 대개 여기입니다.

실무에서는 크게 두 갈래로 나뉩니다. 다 학습된 모델을 사후에 줄이는 학습 후 양자화(PTQ)는 몇 시간이면 끝나 대부분의 도입 과제가 여기서 출발하고, 학습 단계에서 정밀도 손실을 미리 반영하는 양자화 인식 학습(QAT)은 재학습 비용이 크지만 4비트 이하에서도 품질을 지켜냅니다. 숫자로 보면 8비트는 손실이 거의 없는 안전한 기본값이고, 4비트는 용량을 4분의 1로 줄이는 대신 과제별 편차가 큽니다. 가중치만 줄일지 활성값까지 줄일지도 갈리는데, 속도가 실제로 붙는 쪽은 후자입니다. 가지치기나 지식 증류와는 다른 축이라 서로 겹쳐 쓸 수 있습니다.

가장 흔한 오해는 '벤치마크 점수가 그대로니 품질도 그대로'라는 판단입니다. 평균 점수는 1~2%만 떨어져도 품번·계좌번호·날짜처럼 숫자와 고유명사를 정확히 옮겨야 하는 작업에 오류가 몰리고, 문맥이 길어질수록 격차가 벌어집니다. 하드웨어도 변수여서, INT4 연산을 지원하지 않는 구형 GPU에서는 변환·복원이 끼어들어 오히려 느려지기도 합니다. 그래서 정밀도는 공개 지표가 아니라 우리 업무 데이터로 만든 자체 질문 세트로 골라야 하며, 이 검증을 건너뛰면 비용은 줄었는데 현업이 답을 믿지 않아 아무도 안 쓰는 시스템이 남습니다.