AI 도입 비용 · 토큰 과금

AI 도입 비용이란?

AI 비용에 관한 질문은 '한 달에 얼마입니까'에서 '누가 무엇을 어떻게 쓰느냐'로 바뀝니다. 같은 팀 안에서도 화면에 로그인해 보고서를 다듬는 사람과, 시스템에 붙여 하루 수백 건을 자동 처리하는 업무는 비용이 늘어나는 곡선 자체가 다릅니다. 앞쪽은 인원을 늘리지 않는 한 예산이 고정되고, 뒤쪽은 업무량이 늘면 청구서도 같이 붑니다. 사용 방식을 먼저 갈라놓지 않은 예산안은 재무 검토에서 반드시 되돌아옵니다. 품의서의 첫 표는 금액표가 아니라 사용 유형별 인원과 처리 건수 표입니다.

토큰은 모델이 글을 잘라 처리하는 조각입니다. 한글은 영어보다 잘게 쪼개지는 편이라 같은 분량이라도 토큰이 더 나오므로, 단가표를 들여다보기 전에 실제 업무 문서 열 건을 넣어 건당 입력·출력 토큰을 재 보는 편이 빠릅니다. 입력과 출력은 단가가 다르고 대개 출력이 더 비쌉니다. 비용이 갈리는 지점은 모델 선택이 아니라 매번 통째로 밀어 넣는 첨부 문서입니다. 40쪽 규정집을 건마다 붙이면 같은 답을 받으면서 비용만 몇 배가 되고, 필요한 조항만 추리면 그만큼 그대로 줄어듭니다. 토큰비는 총비용의 일부일 뿐이라는 점도 함께 봐야 합니다.

품의서에서 자주 빠지는 항목은 도구값 바깥에 있습니다. 초기 교육과 사내 가이드 작성, 계정과 권한을 관리할 운영 담당자의 월 공수, 결과를 사람이 확인하는 검증 시간, 그리고 써 보다 접은 시도의 비용까지 넣어야 숫자가 맞습니다. 효과는 반대로 깎아서 잡습니다. 절감 시간은 인건비 단가로 환산하되 보수적으로 잡고, 무엇을 언제 어떻게 다시 재겠다는 측정 방법을 같이 적어 둡니다. 단가와 요금제는 분기 단위로 바뀌므로 문서에는 특정 금액 대신 계산식을 남깁니다.

현장에서 가장 자주 어긋나는 대목은 '토큰 단가가 커피값도 안 되니 신경 쓸 것 없다'는 말입니다. 한 사람이 시험할 때는 맞지만, 야간 배치가 돌고 오류 재시도가 붙고 검색 결과를 길게 물려 넣기 시작하면 한 달 만에 자릿수가 바뀝니다. 사용량 상한과 알림을 걸지 않은 채 시작했다가 첫 청구서에 놀라 과제 자체가 중단되는 일이 실제로 생깁니다. 반대 방향의 오해도 있습니다. 전 직원 계정 일괄 구매는 공평해 보이지만, 두 달 뒤 로그인 기록을 열면 절반이 비어 있고 그 돈은 이미 연간 계약으로 묶여 있습니다. 계정은 쓰는 사람에게만, 사용량은 상한과 함께 여는 편이 안전합니다.