MLOps
Machine Learning Operations
MLOps이란?
- ML 모델의 개발·배포·운영 체계
- AI판 데브옵스
- 드리프트 감지·재학습
MLOps가 들어오면 조직에서 바뀌는 것은 모델의 정확도가 아니라 '누가 무엇을 언제 바꿨는지 추적 가능해진다'는 점입니다. MLOps 이전의 AI 프로젝트는 담당자 노트북 안에서만 돌아갑니다. 그 사람이 휴직하면 지난달 성능이 잘 나왔던 모델을 아무도 다시 만들지 못합니다. MLOps는 데이터 스냅샷, 하이퍼파라미터, 학습 코드, 결과 지표를 한 묶음으로 남겨 실험을 자산으로 바꿉니다. 성능 경쟁이 아니라 신뢰성 경쟁으로 무게중심이 옮겨가는 겁니다.
실무에서는 성숙도를 단계로 봅니다. 사람이 손으로 학습하고 손으로 배포하는 0단계, 학습 파이프라인이 자동으로 도는 1단계, 코드 변경이 자동 검증과 배포까지 이어지는 2단계입니다. 대부분의 국내 기업은 0단계와 1단계 사이에 있습니다. 데브옵스와의 결정적 차이는 관리 대상입니다. 일반 소프트웨어는 코드만 버전 관리하면 되지만, 머신러닝은 코드·데이터·모델 세 축이 동시에 움직입니다. 드리프트도 둘로 나뉩니다. 입력 데이터 분포가 변하는 데이터 드리프트와, 입력은 그대로인데 정답의 의미가 변하는 컨셉 드리프트입니다. 후자가 훨씬 늦게 발견됩니다.
가장 흔한 오해는 플랫폼을 깔면 MLOps가 된다는 생각입니다. 도구보다 먼저 정해야 할 것은 '무엇을 성능 저하로 볼 것인가'와 '누가 재학습을 승인하는가'입니다. 모니터링을 서버 CPU와 응답속도만 걸어두는 경우도 많은데, 인프라는 멀쩡한데 예측만 틀리는 상황은 그 대시보드에 절대 잡히지 않습니다. 정답 라벨이 두 달 뒤에 확정되는 업무라면 그동안 틀린 예측으로 발주와 심사가 계속 나갑니다. 반대로 재학습을 무조건 자동화하면 더 위험합니다. 모델이 잘못 만든 결과가 다시 학습 데이터로 들어가면 오차가 스스로 증폭되고, 어느 시점부터 망가졌는지 되짚을 수조차 없게 됩니다.
소프트웨어의 데브옵스(DevOps)를 머신러닝에 적용한 개념으로, AI의 상용화 확산과 함께 정립됐습니다.
가상의 사례로 살펴보겠습니다. 온라인 식품 유통을 하는 A사는 임직원 900명, 연매출 2,400억 원 규모입니다. 2년 전 수요예측 모델을 도입해 초기 예측 오차율(MAPE) 8%를 기록했지만, 1년 반이 지나자 신선식품 폐기율이 다시 올라가기 시작했습니다. 현업에서는 "모델 쓰나 안 쓰나 똑같다"는 말이 나오던 상황이었습니다.
- 데이터분석팀 김 팀장이 지난 12개월 예측 로그를 전부 다시 뽑아보니 MAPE가 8%에서 19%로 올라 있었고, 원인을 따라가 보니 모델은 여전히 2022년 소비 패턴을 학습한 상태였습니다.
- 재학습을 하려고 보니 학습 코드가 담당자 세 명의 노트북에 흩어진 47개 파일이었습니다. 김 팀장은 "작년 그 모델을 지금 그대로 재현할 수 있는 사람이 있습니까"라고 물었고 아무도 손을 들지 못했습니다.
- 실험 추적 도구를 붙여 데이터 스냅샷·파라미터·평가지표를 자동 기록하게 하고, 수작업으로 3일 걸리던 배포를 파이프라인으로 묶어 2시간으로 줄였습니다. 인프라 담당 박 과장이 승인 버튼 한 단계는 일부러 남겨뒀습니다.
- 모니터링은 서버 지표 대신 주간 MAPE와 주요 입력 피처의 분포 변화를 보게 바꿨습니다. 임계치를 넘으면 구매팀·분석팀 공용 채널로 알림이 가고, 24시간 안에 원인을 적어 회신하는 규칙을 세웠습니다.
- 재학습은 자동으로 돌리되 배포는 챔피언-챌린저 비교를 통과한 모델만 승격시켰습니다. 실제로 프로모션 데이터가 섞여 오히려 성능이 떨어진 챌린저 모델 두 건이 이 단계에서 걸러졌습니다.
- 6개월 뒤 MAPE는 9%대로 회복됐고, 신선식품 폐기율은 월 4.1%에서 2.6%로 내려갔습니다. 성능 이상을 알아채는 데 걸리던 기간도 평균 3주에서 하루 이내로 줄었습니다.