지식 · AI 기초
할루시네이션 · 환각
Hallucination
📂AI 기초⏱읽기 1분📊입문🔗관련 3
할루시네이션이란?
한 줄 정의
AI가 사실이 아닌 내용을 사실처럼 그럴듯하게 지어내는 현상. 생성형 AI 활용에서 반드시 관리해야 할 위험.
⚡ 3줄 요약
- 사실 아닌 것을 그럴듯하게 지어냄
- 생성형 AI의 핵심 위험
- 근거화·검증으로 관리
생성형 AI는 '그럴듯한 다음 말'을 예측해 문장을 만들기 때문에, 근거가 없어도 자신 있게 틀린 답을 내놓을 수 있습니다. 존재하지 않는 통계·출처·인용을 만들어내는 것이 대표적입니다.
원인은 AI가 '정답'을 저장한 게 아니라 확률적으로 가장 그럴듯한 표현을 생성하기 때문입니다. 그래서 최신 정보, 좁은 전문 영역, 구체적 숫자·인용에서 특히 자주 발생합니다.
완전히 없앨 수는 없지만 크게 줄일 수 있습니다 — 근거 문서를 함께 주는 RAG, '모르면 모른다고 답하라'는 지시, 출처 요청, 그리고 사람의 최종 검수를 결합하는 것이 핵심입니다. AI 결과를 검증 없이 쓰면 리스크가 크므로, 실무 도입 시 이 안전장치를 함께 교육해야 합니다.
💡 쉽게 말하면
아는 척 잘하는 사람처럼 — AI가 모르는 것도 자신 있게 지어내니, 반드시 검증해야 합니다.
실무에서 왜 중요한가
AI 결과를 검증 없이 쓰면 리스크가 큽니다. RAG·출처 확인·사람의 검수 같은 안전장치를 함께 교육해야 실무 도입이 안전해집니다.
⚠️ 흔한 오해
오해모델이 더 크고 똑똑해지면 환각(거짓 생성)은 사라진다.
사실규모가 커져도 환각은 완전히 사라지지 않습니다. 근거화(RAG·그라운딩)와 사람의 검증으로 '관리'해야 합니다.
유래와 출처
생성형 AI가 대중화되며 '그럴듯하지만 틀린 답'이 실무 위험으로 부각되면서 널리 쓰이게 된 용어입니다. 언어모델이 정답을 저장한 게 아니라 확률적으로 문장을 생성하는 구조에서 비롯됩니다.
사례로 이해하기
예를 들어, AI로 보고서를 쓰다 환각을 걸러내는 과정을 봅시다.
- 생성 — AI가 '○○ 시장은 2025년 32% 성장했다'는 문장을 그럴듯하게 만듭니다.
- 의심 — 구체적 수치·출처는 환각 위험이 크므로 일단 의심합니다.
- 출처 요청 — '그 수치의 출처를 알려줘'라고 물어 근거를 확인합니다.
- 교차검증 — 실제 보고서·통계로 사실 여부를 대조합니다(근거 없으면 삭제).
- 예방 — 애초에 신뢰 자료를 함께 주는 RAG와 사람 검수 절차를 표준화합니다.
관련 용어
생성형 AI텍스트·이미지·코드·음성 등 새로운 콘텐츠를 만들어내는 AI. ChatGPT·Claude 같은 대규모 언어모델이 대표적이다.RAG · 검색증강생성AI가 답하기 전에 사내 문서·데이터베이스 등 외부 지식을 먼저 검색해 그 근거 위에서 답을 생성하게 하는 기법.프롬프트 엔지니어링생성형 AI가 원하는 결과를 내도록 지시문(프롬프트)을 설계·개선하는 기술. 역할·맥락·예시·형식을 명확히 줄수록 품질이 올라간다.
이 용어와 연결된 교육
📚ChatGPT, AI도구 교육나눔경영컨설팅 기업교육 · 대면/온라인과정 보기 →이 주제로 사내 교육이 필요하신가요?
담당자 맞춤 커리큘럼·견적을 바로 받아보세요.
자주 묻는 질문
AI가 '정답'을 저장한 게 아니라 확률적으로 가장 그럴듯한 문장을 생성하기 때문입니다.
근거 문서를 함께 주는 RAG, 출처 요청, 사람의 최종 검수를 결합하면 위험을 크게 낮출 수 있습니다.
AI는 '그럴듯한 다음 말'을 예측하는 방식이라, 모르는 것도 자신 있게 지어냅니다.
RAG·그라운딩으로 근거를 주고, 사람이 검증하며, 불확실하면 '모른다'고 하게 유도합니다.