Claude API Cost Optimization — 검증된 사례 5건

SaaS 모니터링 대시보드: $2,100 → $187/월 (91% 절감)

워크로드

AWS 클라우드 사용량을 자연어 쿼리로 분석하는 SaaS 대시보드. 일 평균 8,400 사용자 쿼리, 평균 입력 12K 토큰 / 출력 800 토큰.

적용한 패턴

• 80/15/5 모델 라우팅 (Haiku 80%, Sonnet 15%, Opus 5%)
• Prompt caching: AWS schema + few-shot examples 캐시 (5분 TTL, 4-회 평균 reuse)
• Batch API: 야간 배치 분석 보고서 (50% 할인)
• Output token cap: max_tokens 1024 (불필요한 verbose 차단)

Before

전체 쿼리 Sonnet (claude-sonnet-4-5) · 캐시 미사용 · Batch 미사용. 입력 12K × $3/MTok = $36/M tokens 기준 일 $70.

After

단순 분류 → Haiku (80%, $0.80/MTok), 복합 추론 → Sonnet (15%), 요약/리포트 → Opus (5%, batch 50% 할인). 캐시 hit-rate 78%로 입력 토큰 80% 비용 차감.

핵심 코드 패턴

// Routing logic (TypeScript)
function pickModel(query: string): string {
  if (query.length < 200 && /^(what is|show|list)/.test(query)) {
    return "claude-haiku-4-5"; // simple classification
  }
  if (/architect|design|recommend|strategy/.test(query)) {
    return "claude-opus-4-5"; // complex reasoning
  }
  return "claude-sonnet-4-5"; // default
}

주의했던 함정

⚠️ 초기에 Opus를 30%로 잡았는데, 실제로는 5%만 필요했음. 측정 1주일 후 비율 조정.

관련 가이드: Haiku/Sonnet/Opus 선택 기준

고객 지원 챗봇: $4,800 → $640/월 (87% 절감)

워크로드

월 50,000 대화 처리 챗봇. 평균 5턴 대화, 누적 컨텍스트 30K 토큰. 영어/한국어 혼용.

적용한 패턴

• System prompt + FAQ DB를 prompt cache (1.6회 평균 reuse, 손익분기점 통과)
• 1차 응답 Haiku, 에스컬레이션 시에만 Sonnet (95% / 5%)
• Conversation summarization: 3턴 이상 시 누적 history 요약하여 컨텍스트 압축
• Streaming 응답: 사용자 체감 latency 감소 + max_tokens 안전 cap

Before

모든 요청 Sonnet · 누적 컨텍스트 그대로 · 캐시 미사용. 5턴 대화당 평균 $0.096 비용.

After

Haiku 1차 응답 + 캐시 hit · 요약 압축 · 평균 $0.013/대화 (-87%). Sonnet 호출은 escalation 5%만.

핵심 코드 패턴

# Conversation summarization (Python)
async def maybe_summarize(messages, threshold=3):
    if len([m for m in messages if m["role"] == "user"]) <= threshold:
        return messages
    summary = await client.messages.create(
        model="claude-haiku-4-5",
        max_tokens=300,
        messages=[{"role": "user",
                   "content": f"Summarize: {messages[:-2]}"}]
    )
    return [{"role": "user", "content": str(summary.content)}] + messages[-2:]

주의했던 함정

⚠️ Streaming 활성화 후 client-side error rate 12% 증가. SSE 재연결 로직 추가 후 정상화.

관련 가이드: Streaming vs Batch 패턴

PR 자동 리뷰 봇: $1,800 → $290/월 (84% 절감)

워크로드

오픈소스 모노레포 (200K LOC) 의 PR마다 코드 리뷰 자동 생성. 일 80개 PR, PR당 평균 변경 1,200줄.

적용한 패턴

• Diff-only 입력: PR 전체가 아닌 변경 파일만 (90% 토큰 감축)
• 코드 스타일 가이드 + lint rules를 prompt cache (8.4회 reuse/일)
• Sonnet 4.5의 1M context로 큰 PR도 단일 호출 처리
• Batch API: 야간 backlog PR 50% 할인 처리

Before

PR 전체 파일 + 가이드 매번 prepend · Opus 사용 · 캐시 미사용. PR당 평균 $0.75.

After

Diff만 + 캐시 8.4회 hit + Sonnet 1M context · PR당 평균 $0.12 (-84%). Batch로 nightly 처리.

핵심 코드 패턴

# Diff-only input (Python)
import subprocess

def get_diff(pr_branch: str, base: str = "main") -> str:
    result = subprocess.run(
        ["git", "diff", f"{base}...{pr_branch}", "--unified=3"],
        capture_output=True, text=True
    )
    diff = result.stdout
    if len(diff) > 800_000:
        diff = diff[:800_000] + "\n... (truncated)"
    return diff

주의했던 함정

⚠️ 초기에 PR 전체 파일을 보냈는데, 80%가 변경 없는 코드. Diff만 보내니 입력 토큰 90% 감소.

관련 가이드: PR 자동 리뷰 자동화 가이드

PDF 추출 파이프라인: $3,200 → $720/월 (78% 절감)

워크로드

법무 계약서 PDF에서 구조화 데이터 추출. 일 1,200 문서, 평균 8 페이지 / 22K 토큰.

적용한 패턴

• Tool use with strict input_schema (구조화 출력, 재시도 90% 감소)
• Files API + cache: 추출 schema와 example output 캐시 (3.1회 reuse)
• Batch API 사용: real-time 불필요한 nightly job (50% 할인)
• Haiku로 1차 분류 → Sonnet으로 추출 (단순 문서는 Haiku만)

Before

Sonnet으로 모든 문서 처리 · 비구조 출력 후 후처리 파싱 · 재시도율 18%. 문서당 $0.087.

After

Tool use로 구조 강제 · 재시도 1.2% · Batch + 캐시 · 문서당 $0.020 (-78%).

핵심 코드 패턴

# Tool use for structured output (Python)
TOOL = {
  "name": "extract_contract_data",
  "input_schema": {
    "type": "object",
    "properties": {
      "parties": {"type": "array", "items": {"type": "string"}},
      "effective_date": {"type": "string", "format": "date"},
      "termination_clause": {"type": "string"},
      "payment_amount_usd": {"type": "number"}
    },
    "required": ["parties", "effective_date"]
  }
}
response = client.messages.create(
    model="claude-sonnet-4-5", max_tokens=1024,
    tools=[TOOL], tool_choice={"type": "tool", "name": "extract_contract_data"},
    messages=[{"role": "user", "content": [
        {"type": "document", "source": {"type": "file", "file_id": file.id}},
        {"type": "text", "text": "Extract contract data."}
    ]}]
)

주의했던 함정

⚠️ Tool use 없이 prose 응답으로 했더니 JSON 파싱 실패율 18%. Tool use 강제 후 99%+ 성공.

관련 가이드: PDF Document Parsing 가이드

RAG 제품 검색: $5,500 → $1,150/월 (79% 절감)

워크로드

120K 제품 카탈로그 자연어 검색. 일 35,000 쿼리, retrieval 후 상위 8개 제품 + 사용자 쿼리 → 추천.

적용한 패턴

• Embedding-based retrieval로 8개만 inject (모든 카탈로그 X)
• Top-8 description 캐시 (자주 검색되는 제품 hit-rate 65%)
• Haiku로 query intent 분류 → 구체적 추천만 Sonnet으로
• Output cap 200 tokens (제품 추천이라 짧은 응답이 충분)

Before

전체 카탈로그 전송 시도 (context overflow) → 결국 Sonnet으로 1K 제품 inject · 쿼리당 $0.063.

After

Vector retrieval + 8개만 + Haiku 분류 + 캐시 hit · 쿼리당 $0.013 (-79%).

주의했던 함정

⚠️ 초기에 retrieval 결과 50개 inject했는데 노이즈로 추천 품질 저하. 8개로 줄이니 품질↑ 비용↓.

관련 가이드: Semantic Search 패턴