AI API 가격표 2026: GPT·Claude·Gemini 비용 비교에서 개발자가 봐야 할 숫자

2026년 AI API 비용 비교는 “어느 모델이 제일 똑똑한가”보다 “우리 서비스의 토큰 패턴에 맞는가”로 봐야 한다. 공개 가격 비교 사이트와 각 벤더 문서를 보면 모델 수는 늘었고, 입력·출력·캐시·배치·구독형 요금이 서로 다른 방식으로 쪼개졌다. 개발자 입장에서 중요한 것은 표의 첫 줄 가격이 아니다. 실제 제품에서 발생하는 입력 토큰, 출력 토큰, 재시도, 캐시 히트율, 모델 라우팅 실패 비용이다.

이 글은 “AI API 가격”, “LLM API 비용 비교”, “GPT Claude Gemini 비용” 같은 검색 의도를 가진 개발자를 대상으로 한다. 특정 모델을 추천하기보다, 가격표를 읽을 때 놓치기 쉬운 숫자와 월 비용 계산 방법을 정리한다.

가격표의 첫 번째 함정: 입력 가격만 보면 안 된다

대부분의 가격 비교표는 입력 100만 토큰당 가격과 출력 100만 토큰당 가격을 나란히 보여준다. 그런데 개발자가 빠르게 훑을 때는 입력 가격만 보고 “이 모델이 싸다”고 판단하기 쉽다. 실제로는 출력 가격이 훨씬 큰 차이를 만든다. 코드 생성, 리포트 작성, 이메일 초안, 긴 답변형 챗봇은 출력 토큰이 비용의 절반 이상을 차지할 수 있다.

간단한 계산식을 보자.

월 비용 = 입력 토큰 / 1,000,000 × 입력 단가 + 출력 토큰 / 1,000,000 × 출력 단가

여기에 캐시 쓰기, 캐시 히트, 배치 할인, 재시도 비용을 더해야 실제 금액에 가까워진다. 예를 들어 입력이 싸지만 출력이 비싼 모델은 긴 답변 서비스에서 불리하다. 반대로 입력이 길고 출력이 짧은 문서 분류, 검색 질의 재작성, 데이터 추출 작업은 입력 단가와 캐시 할인이 더 중요하다.

따라서 가격표를 볼 때는 “우리 서비스의 출력 비율”을 먼저 구해야 한다. 최근 7일 요청을 뽑아 입력 토큰 합계와 출력 토큰 합계를 나눠 보면 된다. 출력 비율이 30%인지, 70%인지에 따라 적합한 모델이 달라진다.

두 번째 함정: 캐시 가격과 캐시 히트율을 따로 봐야 한다

OpenAI와 Anthropic 모두 반복되는 프롬프트 prefix를 재사용하는 prompt caching 문서를 제공한다. OpenAI 문서 기준 캐시 히트는 정확히 같은 prefix가 있을 때 가능하며, 정적인 지시문과 예시는 앞에 두고 사용자별 변수는 뒤에 두는 방식이 권장된다. Anthropic 문서도 cache_control과 명시적 breakpoint를 통해 반복 프롬프트 비용과 지연시간을 줄일 수 있다고 설명한다.

가격표에서 캐시 입력 단가가 낮아 보여도 히트율이 낮으면 소용없다. 흔한 실패 패턴은 다음과 같다.

• 사용자 ID, 현재 시간, 요청 UUID를 프롬프트 맨 앞에 넣는다.
• 매 요청마다 검색 결과 순서가 달라져 prefix가 깨진다.
• 시스템 프롬프트를 기능별로 조금씩 복사해 관리해 버전이 계속 갈라진다.
• 문서 원문 앞에 질문을 먼저 붙여, 질문이 바뀔 때마다 긴 prefix가 달라진다.
• 캐시 히트 토큰을 로그로 남기지 않아 실제 절감 여부를 모른다.

캐시를 비용 절감 수단으로 쓰려면 프롬프트 구조가 안정적이어야 한다. “고정 지시문 → 고정 예시 → 고정 문서 또는 도구 스키마 → 사용자 입력” 순서를 기본으로 두고, 동적으로 바뀌는 값은 가능한 뒤쪽으로 밀어야 한다.

세 번째 함정: 구독형 도구와 API 비용을 같은 표에서 보면 안 된다

ChatGPT Plus, Claude Pro, Gemini Advanced 같은 구독형 상품은 개인 또는 팀의 생산성 도구에 가깝다. API는 제품 트래픽에 따라 비용이 늘어나는 인프라다. 월 20달러 구독과 100만 토큰 단가를 단순 비교하면 잘못된 결론이 나온다.

사내 개발자가 하루 종일 코딩 보조를 받는 용도라면 구독형이 예측 가능하다. 반대로 고객 1만 명이 사용하는 기능에 모델을 붙이는 경우에는 API 비용, rate limit, 장애 대응, 로그, 개인정보 처리 정책을 함께 봐야 한다. 실서비스에서는 “개발자 한 명이 잘 쓰는가”보다 “고객별 원가와 마진이 맞는가”가 중요하다.

B2B SaaS라면 고객별 AI 사용량을 과금 정책과 연결해야 한다. 무료 플랜에서 무제한 AI 요약을 열면 가격표가 아무리 싸도 금방 손실이 난다. 적어도 요청 수, 입력 문서 길이, 출력 길이, 고급 모델 사용 여부를 플랜별로 제한해야 한다.

실제 비교는 작업 유형별로 해야 한다

모델 비교표를 하나로 만들기보다 작업 유형별로 나누는 편이 정확하다.

이 표를 기준으로 모델 후보를 23개만 남긴다. 그다음 같은 샘플 요청 100500개를 각 모델에 보내 정확도, 지연시간, 입력 토큰, 출력 토큰, 실패율을 비교한다. 벤치마크 점수보다 우리 데이터에서의 실패율이 더 중요하다.

운영 대시보드에 넣을 가격 지표

가격 비교는 한 번 하고 끝나는 작업이 아니다. 모델이 추가되고, 가격이 바뀌고, 제품 기능이 늘어나면 비용 구조도 바뀐다. 운영 대시보드에는 다음 지표를 넣는 것이 좋다.

• 일별 총 토큰과 총 비용
• 기능별 비용 상위 10개
• 고객 또는 테넌트별 비용
• 모델별 입력·출력 토큰 비율
• 캐시 히트율과 캐시 절감 추정액
• 재시도 요청 비용
• 실패 요청 비용
• 평균 응답 지연시간과 p95 지연시간

특히 재시도 비용은 자주 빠진다. 네트워크 오류, JSON 파싱 실패, 도구 호출 실패가 발생하면 같은 요청을 다시 보내는 구조가 많다. 재시도율 5%는 월 비용 5% 증가와 거의 같다. 실패한 요청도 비용을 만든다는 사실을 제품 로그에 반영해야 한다.

모델 라우팅은 비용 절감이 아니라 품질 관리로 시작한다

싼 모델로 먼저 시도하고 실패하면 비싼 모델로 올리는 라우팅은 매력적으로 보인다. 하지만 기준 없이 적용하면 사용자 경험이 흔들린다. 먼저 작업을 분류해야 한다. 단순 분류, 짧은 요약, JSON 추출은 저렴한 모델 후보로 테스트한다. 법률 문서 해석, 복잡한 코드 변경, 고객에게 바로 나가는 답변은 더 강한 모델을 기본값으로 둘 수 있다.

라우팅 정책에는 승격 기준이 필요하다. 예를 들어 JSON 스키마 검증 실패, 근거 문서 부족, confidence score 낮음, 테스트 실패, 사용자 재질문 발생 같은 이벤트가 승격 조건이 될 수 있다. 단순히 “답이 마음에 안 들면 다시 호출”은 비용을 예측하기 어렵게 만든다.

실행 체크리스트

• 최근 7일 또는 30일의 입력 토큰, 출력 토큰, 요청 수를 기능별로 집계한다.
• 가격표를 볼 때 입력 단가, 출력 단가, 캐시 단가, 배치 할인 여부를 따로 기록한다.
• 같은 샘플 요청으로 후보 모델 2~3개를 비교하고, 정확도·지연시간·비용을 함께 본다.
• 캐시 히트율을 로그로 남기고, 프롬프트 prefix가 자주 깨지는 지점을 찾는다.
• 구독형 도구 비용과 API 제품 비용을 같은 의사결정으로 묶지 않는다.
• 재시도율과 실패 요청 비용을 대시보드에 넣는다.
• 모델 라우팅은 작업 유형과 승격 기준을 먼저 정의한 뒤 적용한다.
• 참고 출처: OpenAI prompt caching 문서, Anthropic pricing·prompt caching 문서, AI Pricing Guru의 2026년 7월 13일 공개 가격 스냅샷.