그라운딩 · 근거화

그라운딩이란?

그라운딩을 붙이면 조직이 AI에 던지는 질문 자체가 바뀝니다. '이 모델이 똑똑한가'가 아니라 '이 답변은 어느 문서 몇 조를 보고 나왔는가'를 묻게 됩니다. 그래서 그라운딩의 진짜 효과는 정답률보다 틀린 답을 찾아내는 속도에서 먼저 나타납니다. 근거가 표시되면 담당자가 답변 하나를 검증하는 데 몇 분이 아니라 몇십 초가 걸리고, 틀렸을 때 고쳐야 할 대상이 모델이 아니라 그 문서로 특정됩니다.

그라운딩은 단일 기술이 아니라 몇 가지 방식의 묶음입니다. 문서를 검색해 붙이는 RAG, 질문할 때 파일을 직접 첨부하는 방식, 재고·미수금처럼 수시로 바뀌는 값을 사내 시스템 API로 조회해 오는 방식이 함께 쓰입니다. 자주 혼동되는 파인튜닝은 성격이 다릅니다. 파인튜닝은 말투와 형식을 길들이고, 그라운딩은 출처를 만듭니다. 숫자와 규정처럼 자주 바뀌는 영역은 학습시키지 말고 조회로 풀어야 합니다.

실제 성패는 모델이 아니라 근거 자료의 상태에서 갈립니다. 같은 규정의 개정본과 폐기본이 한 폴더에 섞여 있으면 검색은 둘 다 가져옵니다. 문서마다 시행일과 버전을 달고, 답변에는 문서명·조항·시행일을 함께 출력하게 하고, 근거를 못 찾으면 지어내지 말고 '확인되지 않습니다'로 끝내는 거절 규칙을 두어야 합니다. 도입 공수의 절반 이상은 모델 설정이 아니라 문서 창고를 정리하는 일에 들어갑니다.

가장 흔한 오해는 'RAG를 붙였으니 환각은 끝났다'는 말입니다. 검색이 엉뚱한 문서를 집어오면 AI는 그 엉뚱한 문서에 충실하게, 출처까지 붙여서 틀린 답을 내놓습니다. 출처가 달려 있으면 직원들은 오히려 더 믿습니다. 3년 전 폐기된 출장비 규정이 인덱스에 남아 있으면 그대로 인용되고, 권한 분리 없이 인사 폴더를 통째로 넣으면 연봉 테이블이 전 직원 챗봇에서 조회됩니다. 근거를 연결하는 순간, 그 근거를 관리할 책임도 함께 생깁니다.