챗봇
Chatbot
챗봇이란?
- 대화하듯 답하고 작업 돕는 프로그램
- 규칙형→LLM 기반으로 진화
- RAG로 우리 데이터 연결
챗봇을 붙이면 가장 먼저 바뀌는 것은 답변 속도가 아니라 응대 창구의 구조입니다. 지금까지는 전화와 메일로 들어온 질문을 담당자가 들어온 순서대로 처리했다면, 이제는 반복 질문을 기계가 1차로 받고 사람은 예외 상황과 판단이 필요한 건만 맡게 됩니다. 부수 효과가 더 큽니다. 고객이 무엇을 어떤 말로 묻는지가 로그로 쌓여 개선 데이터가 된다는 점인데, 전화 응대에서는 통화가 끝나는 순간 사라지던 정보입니다.
형태는 크게 세 갈래입니다. 버튼과 시나리오를 따라 흐르는 규칙형, 준비된 FAQ에서 가장 가까운 답을 찾아 주는 검색형, LLM이 문장을 직접 만들어 내는 생성형입니다. 여기에 사내 문서를 근거로 물려 주는 RAG를 결합하면 '우리 회사 전용'이 됩니다. 다만 문서가 정리되지 않은 상태에서 RAG부터 붙이면 오답 생산 속도만 빨라집니다. 근거 문서가 수백 건 수준이라면 FAQ 100문항을 손으로 다듬는 편이 더 빠르고 정확합니다. 경계도 알아 둘 만합니다. 말로 답하는 데서 끝나면 챗봇이고, 재고 조회나 예약 변경처럼 시스템을 직접 건드리면 에이전트 영역입니다.
성과는 '답변이 자연스럽다'가 아니라 숫자로 봅니다. 사람 연결 없이 끝난 자동응답 처리율, 상담원에게 넘긴 이관율, 첫 응답까지 걸린 시간, 챗봇이 답한 뒤 다시 전화가 걸려온 재문의율입니다. 오픈 직후 자동응답 처리율 30~40%면 정상 출발이고, 로그를 매주 뜯어 답변을 고치는 운영이 붙어야 60% 선에 닿습니다. 처음부터 90%를 목표로 잡으면 모르는 질문에도 아는 척하도록 튜닝하게 됩니다.
현장에서 가장 자주 어긋나는 지점은 '챗봇을 깔면 상담 인력을 줄인다'는 기대입니다. 실제로는 초기 3~6개월간 로그를 읽고 답변을 손보는 운영자가 반드시 붙어야 하며, 그 사람이 없으면 정답률은 오픈 첫 주 수준에서 그대로 굳습니다. 환불 규정이나 납기·단가를 생성형에게 그냥 맡기는 것도 위험합니다. 고객은 화면에 뜬 문장을 회사의 약속으로 받아들이기 때문에, 잘못 안내된 취소 수수료 한 줄이 그대로 분쟁이 됩니다. 못 알아들었을 때 사람에게 넘기는 경로를 처음부터 만들어 두지 않으면 같은 질문을 세 번 반복하다 이탈하는 고객만 늘어납니다.
1966년 초기 챗봇 '엘리자(ELIZA)'로 거슬러 올라가며, 규칙 기반을 거쳐 LLM 기반 대화 AI로 도약했습니다.
가상의 사례로 살펴보겠습니다. 임직원 210명, 연매출 480억 원대의 산업용 부품 제조사 A사 이야기입니다. 고객지원팀 4명이 월 3,200건의 문의를 받는데, 절반 가까이가 '납기 언제 나오냐', '이 모델 호환되냐' 같은 반복 질문이었습니다. 2월 말 팀장이 '전화받느라 클레임 처리가 사흘씩 밀린다'며 챗봇 도입을 꺼냈습니다.
- 고객지원팀 이 팀장이 3개월치 상담 로그 9,600건을 내려받아 유형을 세어 보니 납기 조회·호환 모델·세금계산서 재발행, 이 세 가지가 전체 문의의 58%였습니다.
- 영업팀과 품질보증팀이 따로 들고 있던 제품 규격서 1,200종을 한곳에 모으고, 2019년 이전 단종 모델 340건은 '단종' 표시를 달아 답변 근거에서 아예 빼놓았습니다.
- 오픈 2주 차에 챗봇이 단가를 제멋대로 계산해 답하는 일이 생기자, 가격과 납기 약속은 답하지 않고 '담당 영업에게 바로 연결드리겠습니다'로 넘기도록 막았습니다.
- 야간 문의는 ERP에서 조회된 출하 예정일만 읽어 주고, 두 번 연속 의도를 못 잡으면 즉시 사람 대기열로 넘겼습니다. 김 대리가 '고객을 챗봇 안에 가두지 말자'고 못 박은 원칙입니다.
- 4개월 뒤 전화 문의는 월 1,900건에서 1,050건으로 줄었고, 사람 연결 없이 종결된 비율이 62%로 올라 클레임 1건당 처리 기간이 평균 2.7일에서 1.4일로 짧아졌습니다.