지식 · AI 기초
학습 · 추론
Training / Inference
📂AI 기초⏱읽기 1분📊실무🔗관련 4
학습이란?
한 줄 정의
학습(training)은 데이터로 모델을 '가르치는' 단계, 추론(inference)은 학습된 모델을 '실제로 사용해 답을 얻는' 단계.
⚡ 3줄 요약
- 학습=모델을 가르치는 단계
- 추론=학습된 모델을 쓰는 단계
- 비용 성격이 다름
AI는 크게 두 단계로 씁니다. 학습은 방대한 데이터로 모델의 파라미터를 조정해 패턴을 익히게 하는 과정으로, 시간·비용·연산이 매우 큽니다. 추론은 그렇게 학습된 모델에 질문을 넣어 답을 받는 실제 사용 단계입니다.
비유하면 학습은 '시험공부', 추론은 '시험 보기'입니다. 우리가 ChatGPT에 질문할 때 일어나는 것은 추론입니다. 기업이 AI를 쓸 때 대부분 남이 학습해 둔 모델을 '추론'으로 활용하고, 필요하면 소량 추가 학습(파인튜닝)을 합니다.
💡 쉽게 말하면
학교 다니며 배우는 것(학습)과 졸업 후 실무에 쓰는 것(추론) — 만들 때와 쓸 때가 다릅니다.
실무에서 왜 중요한가
AI 비용·속도의 구조를 이해하는 기본입니다. '학습은 비싸고, 추론은 반복된다'를 알면 도입 판단이 쉬워집니다.
유래와 출처
머신러닝의 기본 구분으로, 대형 모델 시대에 '학습(막대한 1회 비용)'과 '추론(사용할 때마다 발생하는 비용)'의 경제학이 특히 중요해졌습니다.
사례로 이해하기
예를 들어, 기업이 AI를 도입하는 흐름을 봅시다.
- 활용 결정 — 대개 남이 학습한 모델을 가져다 씁니다.
- 추론 — 사용자가 질문하면 모델이 답을 생성(추론)합니다.
- 비용 — 추론은 쓸 때마다 토큰 비용이 발생합니다.
- 맞춤 — 필요하면 소량 추가 학습(파인튜닝)을 합니다.
- 운영 — 추론 속도·비용을 최적화합니다.
관련 용어
파인튜닝이미 학습된 AI 모델을 특정 분야·작업·말투에 맞춰 소량의 데이터로 추가 학습시키는 것.토큰 · 컨텍스트 윈도우토큰은 AI가 글을 처리하는 최소 단위(대략 단어 조각), 컨텍스트 윈도우는 AI가 한 번에 기억·참고할 수 있는 토큰의 최대 길이.파라미터 · 매개변수AI 모델이 학습으로 조정하는 내부 값들. 'OO억 파라미터'는 그 모델의 규모(학습된 지식의 양)를 나타낸다.머신러닝 · 딥러닝머신러닝은 데이터로 규칙을 스스로 학습하는 AI의 방법, 딥러닝은 그중 인공신경망을 깊게 쌓아 학습하는 강력한 갈래.
이 용어와 연결된 교육
📚에이전트 AI 실무 입문나눔경영컨설팅 기업교육 · 대면/온라인과정 보기 →이 주제로 사내 교육이 필요하신가요?
담당자 맞춤 커리큘럼·견적을 바로 받아보세요.
자주 묻는 질문
추론입니다. 이미 학습된 모델에 질문해 답을 받는 것입니다.
대부분 아닙니다. 학습된 모델을 추론으로 활용하고, 필요 시 파인튜닝만 합니다.
'추론' 단계입니다 — 이미 학습된 모델을 실제로 써서 답을 얻는 것입니다.
대부분 아닙니다. 공개·상용 모델을 활용(추론)하고, 필요 시 파인튜닝만 합니다.