지식 · AI 기초
LLM · 대규모 언어모델
Large Language Model
📂AI 기초⏱읽기 1분📊입문🔗관련 4
LLM이란?
한 줄 정의
방대한 텍스트로 학습해 '다음에 올 말'을 예측하며 문장을 생성하는 대규모 신경망. ChatGPT·Claude의 두뇌.
⚡ 3줄 요약
- 방대한 텍스트로 '다음 말' 예측
- 문장을 생성하는 대규모 신경망
- ChatGPT·Claude의 두뇌
LLM은 인터넷 규모의 텍스트를 학습해 언어의 패턴을 익힌 모델입니다. 질문을 받으면 '가장 그럴듯한 다음 단어'를 하나씩 이어 붙여 답을 만듭니다. 요약·작성·번역·코딩 등 폭넓은 언어 작업을 한 모델로 처리합니다.
오늘날 LLM의 기반은 2017년 등장한 트랜스포머 구조입니다. 모델 크기(매개변수)와 학습 데이터가 커지면서 성능이 급격히 올라 ChatGPT·Claude·Gemini 등이 나왔습니다. 다만 '정답을 저장'한 게 아니라 '확률로 생성'하는 구조라 환각(할루시네이션)이 생길 수 있습니다.
💡 쉽게 말하면
엄청난 독서량으로 '다음에 올 말'을 귀신같이 맞히는 것 — 그렇게 문장을 지어냅니다.
실무에서 왜 중요한가
생성형 AI의 심장입니다. LLM의 작동 원리를 알면 프롬프트·RAG·환각을 훨씬 잘 다룰 수 있습니다.
LLM vs sLM(소형 언어모델)
| 구분 | LLM(거대) | sLM(소형) |
|---|---|---|
| 규모 | 수백억+ 파라미터 | 상대적으로 작음 |
| 강점 | 범용·고성능 | 저비용·빠름·온디바이스 |
| 비용 | 높음 | 낮음 |
| 용도 | 복잡·다양한 작업 | 특정 용도 파인튜닝 |
유래와 출처
오늘날 LLM의 기반 구조인 트랜스포머(Transformer)는 2017년 구글 연구진의 논문 「Attention Is All You Need」에서 제시됐고, GPT·Claude·Gemini 등이 이 위에 만들어졌습니다.
출처 · Vaswani et al., 「Attention Is All You Need」(2017, Google) · 원문 보기
사례로 이해하기
예를 들어, LLM이 답을 만드는 과정을 단순화해 봅시다.
- 입력 — '나눔경영컨설팅은'이라는 문장을 받습니다.
- 예측 — 학습한 패턴으로 다음에 올 확률이 높은 단어('기업')를 고릅니다.
- 반복 — '기업'→'교육'→'전문'처럼 한 단어씩 이어 붙입니다.
- 생성 — 이 과정을 반복해 완결된 문장을 만듭니다.
- 한계 — 근거가 아니라 확률로 잇기 때문에, 사실 검증(RAG·사람 확인)이 필요합니다.
관련 용어
생성형 AI텍스트·이미지·코드·음성 등 새로운 콘텐츠를 만들어내는 AI. ChatGPT·Claude 같은 대규모 언어모델이 대표적이다.프롬프트 엔지니어링생성형 AI가 원하는 결과를 내도록 지시문(프롬프트)을 설계·개선하는 기술. 역할·맥락·예시·형식을 명확히 줄수록 품질이 올라간다.RAG · 검색증강생성AI가 답하기 전에 사내 문서·데이터베이스 등 외부 지식을 먼저 검색해 그 근거 위에서 답을 생성하게 하는 기법.토큰 · 컨텍스트 윈도우토큰은 AI가 글을 처리하는 최소 단위(대략 단어 조각), 컨텍스트 윈도우는 AI가 한 번에 기억·참고할 수 있는 토큰의 최대 길이.
이 용어와 연결된 교육
📚ChatGPT, AI도구 교육나눔경영컨설팅 기업교육 · 대면/온라인과정 보기 →이 주제로 사내 교육이 필요하신가요?
담당자 맞춤 커리큘럼·견적을 바로 받아보세요.
자주 묻는 질문
LLM은 '언어'를 다루는 생성형 AI의 한 종류입니다. 이미지·음성 생성 모델은 또 다릅니다.
대체로 성능이 높지만 비용·속도도 커집니다. 작업에 맞는 크기의 모델을 고르는 것이 실무 감각입니다.
LLM은 생성형 AI의 대표적 '언어' 모델입니다. 생성형 AI는 이미지·음성까지 더 넓습니다.
아닙니다. 작업에 맞는 크기가 중요합니다. 작지만 효율 좋은 모델도 많습니다.