지식 · AI 기초

RAG · 검색증강생성

Retrieval-Augmented Generation

📂AI 기초⏱읽기 1분📊실무🔗관련 4

RAG이란?

한 줄 정의
AI가 답하기 전에 사내 문서·데이터베이스 등 외부 지식을 먼저 검색해 그 근거 위에서 답을 생성하게 하는 기법.
⚡ 3줄 요약
  • 답 전에 외부 지식 먼저 검색
  • 근거 위에서 답 생성
  • 환각 줄이고 최신·사내 지식 반영

일반 생성형 AI는 학습한 범위 밖의 최신·내부 정보를 모릅니다. RAG는 질문에 맞는 자료를 먼저 찾아 AI에게 함께 제공함으로써, 우리 회사 규정·제품 문서 같은 실제 근거에 기반한 답변을 만들게 합니다.

이 기법은 2020년 패트릭 루이스(Patrick Lewis)와 페이스북 AI 연구소(현 Meta AI) 팀의 논문 「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」에서 제시됐습니다. 검색기(retriever)가 관련 문서를 찾아오고, 생성 모델이 그 문서를 근거로 답을 만드는 두 단계 구조입니다.

동작은 '문서를 잘게 나눠 임베딩→질문과 유사한 조각 검색→그 조각을 프롬프트에 붙여 생성' 순입니다. 모델 자체를 재학습하는 파인튜닝보다 빠르고 저렴해, '우리 데이터로 답하는 AI'를 만드는 가장 현실적인 방법으로 자리잡았습니다. 다만 검색 품질이 낮으면 답도 부실해집니다.

💡 쉽게 말하면
오픈북 시험처럼 — 외우지 않고 '자료를 찾아 보고' 답해 정확해집니다.
실무에서 왜 중요한가
환각(할루시네이션)을 줄이고 '우리 데이터로 답하는 AI'를 만드는 가장 현실적인 방법이라, 기업 AI 도입의 핵심 구조로 자리잡았습니다.
⚠️ 흔한 오해
오해우리 회사 데이터를 반영하려면 반드시 모델을 파인튜닝해야 한다.
사실많은 경우 RAG(검색 후 답변)로 충분합니다. RAG는 데이터가 자주 바뀌어도 재학습 없이 최신 지식을 반영합니다.
유래와 출처

2020년 패트릭 루이스(Patrick Lewis)와 페이스북 AI 연구소(현 Meta AI) 팀이 논문에서 처음 제시했습니다. 검색기와 생성 모델을 결합한다는 발상이 핵심입니다.

출처 · Lewis et al., 「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」(2020) · 원문 보기
사례로 이해하기

예를 들어, 사내 규정을 답해 주는 AI 챗봇을 RAG로 만든다고 해봅시다.

  1. 문서 준비 — 취업규칙·복지 규정을 문단 단위로 잘라 임베딩(벡터)으로 저장합니다.
  2. 질문 — 직원이 '연차는 며칠부터 쓸 수 있나요?'라고 묻습니다.
  3. 검색 — 질문과 가장 유사한 규정 조각 몇 개를 벡터 DB에서 찾아옵니다.
  4. 생성 — 그 조각을 근거로 붙여 AI가 규정에 기반해 답하고 출처를 표시합니다.
  5. 검증 — 출처가 실제 규정과 맞는지 확인하는 절차를 둬 환각을 줄입니다.
언제 쓰고, 언제 피하나
✅ 이럴 때 적합
  • 최신·사내 문서를 근거로 답해야 할 때
  • 데이터가 자주 바뀔 때
  • 환각을 줄여야 할 때
🚫 이럴 땐 주의
  • 말투·형식 자체를 바꿔야 할 때(파인튜닝)
  • 참고할 문서가 없는 순수 창작
  • 실시간성이 극도로 중요한 초저지연
한눈에 보는 도식
질문문서 검색근거 문서LLM 생성근거 있는 답외부 지식을 먼저 검색 → 그 근거 위에서 답변 (환각↓)
관련 용어
생성형 AI텍스트·이미지·코드·음성 등 새로운 콘텐츠를 만들어내는 AI. ChatGPT·Claude 같은 대규모 언어모델이 대표적이다.할루시네이션 · 환각AI가 사실이 아닌 내용을 사실처럼 그럴듯하게 지어내는 현상. 생성형 AI 활용에서 반드시 관리해야 할 위험.프롬프트 엔지니어링생성형 AI가 원하는 결과를 내도록 지시문(프롬프트)을 설계·개선하는 기술. 역할·맥락·예시·형식을 명확히 줄수록 품질이 올라간다.AI 에이전트단순히 답만 하는 것을 넘어, 목표를 받으면 스스로 계획을 세우고 도구를 사용해 여러 단계의 작업을 수행하는 AI.
이 용어와 연결된 교육
📚내 데이터로 답하는 AI 만들기 — RAG 입문나눔경영컨설팅 기업교육 · 대면/온라인과정 보기 →
이 주제로 사내 교육이 필요하신가요?
담당자 맞춤 커리큘럼·견적을 바로 받아보세요.
교육 문의하기
📚 관련 과정 보기🗂 전체 커리큘럼📄 무료 자료실🔎 용어사전 홈
최종 수정 2026-07-11 · 감수 김종혁

자주 묻는 질문

파인튜닝은 모델 자체를 재학습시키는 반면, RAG는 모델은 그대로 두고 답변 시점에 근거 문서를 붙여줍니다. 보통 RAG가 더 빠르고 저렴합니다.
크게 줄지만 완전히 없어지진 않습니다. 근거 문서의 품질과 검색 정확도가 뒷받침돼야 합니다.
RAG는 '검색해 근거로 답하기', 파인튜닝은 '모델을 추가 학습'입니다. 최신·사내 지식엔 RAG가 유리합니다.
크게 줄지만 완전히는 아닙니다. 검색 품질·문서 정확도에 따라 좌우됩니다.