파운데이션 모델

파운데이션 모델이란?

파운데이션 모델이 바꾼 것은 성능이 아니라 AI 프로젝트의 출발점입니다. 예전에는 문의 분류기 하나를 만들려 해도 데이터 수집과 라벨링, 학습, 검증에 반년과 전담 인력이 붙었고, 업무 기준이 바뀌면 처음부터 다시였습니다. 지금은 학습이 끝난 모델을 API로 불러 쓰기 때문에, 회사가 붙잡는 질문이 '어떻게 학습시킬까'에서 어떤 모델을 골라 우리 데이터에 어떻게 붙일까로 옮겨갑니다. 비용의 성격도 한 번에 나가는 개발비에서 매달 나가는 사용량 요금으로 바뀌고, 팀에 필요한 실력도 모델을 만드는 힘보다 고르고 붙이고 검증하는 힘 쪽으로 이동합니다.

파운데이션 모델이라고 다 같지는 않습니다. 가중치를 공개하지 않고 API로만 제공하는 폐쇄형과, 내려받아 사내 서버에 올릴 수 있는 공개 가중치형이 갈리고, 텍스트만 받는 모델이냐 이미지·음성까지 함께 받는 멀티모달이냐로 또 갈립니다. 업무에 얹는 방법도 세 층인데 프롬프트, RAG, 파인튜닝 순으로 비용과 난이도가 뜁니다. 통념과 달리 사내 지식을 넣는 일은 파인튜닝이 아니라 RAG의 몫이고, 파인튜닝은 말투·출력 형식·분류 기준처럼 '푸는 방식'을 고정할 때 씁니다. 이 구분을 놓치면 수천만 원짜리 파인튜닝을 해놓고도 어제 바뀐 단가표를 못 읽는 모델이 나옵니다.

현장에서 가장 자주 깨지는 지점은 '한 번 붙이면 끝'이라는 생각입니다. 모델은 몇 달 단위로 버전이 올라가고 옛 버전은 종료 예고가 뜨는데, 버전이 바뀌면 잘 돌던 프롬프트가 출력 형식을 슬쩍 바꿔 뒷단 시스템이 통째로 멈추는 일이 실제로 생깁니다. 모델 버전을 고정해 두고 회귀 테스트 세트를 갖춘 팀만 이 교체를 사고 없이 넘깁니다. 또 하나는 '범용이니 우리 업무도 알아서 하겠지'라는 기대인데, 사내 규정과 제품 코드, 어제 개정된 단가표는 학습 데이터에 없어서 그럴듯한 오답이 돌아옵니다. 연결해 주지 않은 파운데이션 모델은 똑똑한 외부인일 뿐입니다.