LLM API 비용은 «하루에 오가는 토큰 수 × 모델 단가»로 정해져서, 같은 챗봇도 모델과 사용량에 따라 몇 배씩 차이가 나요. 그래서 모델을 고르기 전에 하루 예상 토큰량부터 계산해야 해요. 이 글은 직원용 사내 챗봇을 처음 만드는 작은 회사를 위해 썼어요.
토큰 기준 요금이란
| 항목 | 뜻 |
|---|---|
| 입력 토큰 | 질문, 시스템 지시문, 함께 보낸 사내 문서 조각, 이전 대화 |
| 출력 토큰 | 모델이 써 준 답 |
| 단가 | 보통 «100만 토큰당 ○달러»로 표시되고, 출력 단가가 입력보다 높은 경우가 많아요 |
토큰의 기본 원리는 AI API 토큰 요금제 기초에서 따로 정리했어요.
월 비용 계산식
아래 식에 우리 숫자를 넣으면 돼요. 단가는 각 회사 공식 요금표에서 확인한 날짜와 함께 적어 두세요.
| 값 | 구하는 법 |
|---|---|
| A. 하루 질문 수 | 직원 수 × 1인당 하루 질문 수(첫 2주 실측) |
| B. 질문 1건 입력 토큰 | 질문 + 지시문 + 붙이는 문서 조각 + 이전 대화 |
| C. 답 1건 출력 토큰 | 평균 답 길이 |
| 월 비용 | A × 30 × (B × 입력 단가 + C × 출력 단가) |
사내 챗봇은 질문은 짧아도 «함께 보내는 문서 조각» 때문에 B가 커지기 쉬워요. 처음 계산할 때 이 부분을 빼먹으면 예산이 틀려요.
작은 회사에 맞는 선택지 비교
| 방식 | 비용 구조 | 맞는 경우 | 주의 |
|---|---|---|---|
| 해외 모델사 API 직접 | 쓴 만큼 달러 결제 | 해외 카드·영문 정산이 가능한 곳 | 데이터 처리 조건과 리전 확인 |
| 원화 결제 API 게이트웨이 | 원화 충전 크레딧 | 시제품, 공개 자료를 다루는 도구 | 입력이 학습에 쓰이는 조건이면 사내 문서 금지 |
| 자체 서버(로컬 LLM) | 구축비 + 월 서버비 | 데이터를 밖으로 못 보내거나 사용량이 많을 때 | 운영·업데이트 담당이 필요해요 |
예를 들어 팀플럿의 위트 AI API는 해외 카드 없이 원화로 OpenAI 모델을 쓰는 서비스지만, 보낸 글이 OpenAI 학습에 쓰이는 조건이라 사내 문서·개인정보에는 쓰지 말라고 안내해요. 사내 챗봇이라면 이 점부터 걸러야 해요.
비용이 갑자기 늘어나는 이유
- 대화 기록 누적. 이전 대화를 매번 같이 보내면 대화가 길어질수록 입력 토큰이 커져요.
- 문서 조각 과다. 검색한 문서를 너무 많이 붙이면 질문 하나에도 입력이 커져요.
- 대형 모델 고정. 쉬운 질문까지 대형 모델로 보내요.
- 재시도 반복. 오류가 나면 자동으로 다시 보내는 코드가 같은 요청을 여러 번 보내요.
API와 자체 서버, 언제 바꾸나
| 상황 | 맞는 쪽 |
|---|---|
| 하루 사용량이 적고 최신 대형 모델이 꼭 필요 | API |
| 의료·인사·법무·금융 자료처럼 밖으로 보낼 수 없음 | 자체 서버 |
| 월 API 요금이 GPU 서버비를 넘음 | 자체 서버 검토 |
| 운영 인력이 없음 | API 또는 운영 대행 |
손익분기는 실제 사용량으로 계산해야 해요. 계산식 결과가 서버비에 가까워지면 그때 자체 서버를 비교해 보세요.
모델 단가는 자주 바뀌어서 이 글에 숫자를 적지 않았어요. 각 회사 공식 요금표에서 확인해 주세요. 위트 AI API·로컬 LLM 구축 조건은 witcorp.co.kr/ai, ax.teamplut.com/llm 안내 기준이에요. 확인 기준일 2026-10-14.
자주 묻는 질문
토큰이 정확히 뭔가요?
어떤 모델을 써야 저렴한가요?
사내 문서를 그대로 API에 보내도 되나요?
크레딧 충전과 월 구독, 뭐가 유리한가요?
한도를 다 쓰면 어떻게 되나요?
DIGITAL WIT NEWSLETTER
작은 회사 IT 리포트를 매주 월요일 메일로 받아 보세요.
새 리포트 요약과 팀플럿 서비스 소식을 함께 보내요. 팀플럿 뉴스레터(PLUT 노트)가 디지털위트 뉴스레터로 합쳐졌어요.
뉴스레터 구독하기
