GPT-5.6 가격 인하와 Fast mode: API 비용표를 다시 봐야 하는 이유

OpenAI가 GPT-5.6 라인업의 가격과 처리 모드를 다시 조정했다. 이번 발표에서 개발자가 바로 확인해야 할 부분은 세 가지다. Luna와 Terra의 가격이 내려갔고, Sol에는 Fast mode가 붙었고, 프롬프트 캐싱 과금 방식이 더 명확해졌다. 단순한 모델 홍보로 보면 지나치기 쉽지만, 실제 운영팀에는 “어떤 단계에 어떤 모델을 붙일 것인가”를 다시 계산해야 하는 변화다.

OpenAI 발표에 따르면 7월 30일부터 Terra는 입력 100만 토큰당 2달러, 출력 100만 토큰당 12달러로 내려갔다. Luna는 입력 100만 토큰당 0.20달러, 출력 100만 토큰당 1.20달러다. Sol 가격은 유지되지만 Fast mode를 쓰면 표준 처리보다 최대 2.5배 빠른 속도를 제공하고, 가격은 2배다. 또 GPT-5.6 계열에는 명시적 cache breakpoint와 최소 30분 캐시 수명이 도입됐다. 캐시 write는 uncached input rate의 1.25배, 캐시 read는 기존처럼 90% 할인이 적용된다.

이 글은 새 가격표를 그대로 옮기는 글이 아니다. 실무 개발자가 배치 작업, 코드 에이전트, 문서 분석, 고객 응답 시스템에서 어떤 의사결정을 해야 하는지 정리한다.

이번 변경의 핵심은 “싸졌다”가 아니라 “쪼갤 수 있게 됐다”

모델 가격이 내려가면 흔히 “이제 더 많이 호출해도 된다”고 해석한다. 하지만 운영 관점에서는 그렇게 보면 비용이 다시 새기 쉽다. 더 중요한 변화는 워크플로우를 단계별로 나눌 유인이 커졌다는 점이다.

예를 들어 코드 수정 에이전트를 하나의 모델로 끝까지 돌리면 비용 구조가 단순하다. Sol로 요구사항 분석, 파일 탐색, 코드 수정, 테스트 작성, 테스트 실행 결과 해석을 모두 처리한다. 품질은 높을 수 있지만 토큰 대부분이 반복 작업에 쓰인다. 반대로 Sol은 불확실한 설계 판단과 위험한 변경 범위 산정에만 쓰고, Luna는 정해진 패턴의 테스트 생성과 문서 요약을 맡기면 비용이 내려간다.

이때 핵심 질문은 “이 단계가 정말 최고 지능을 요구하는가”다. 요구사항 분해, 장애 원인 추론, 보안 취약점 분석처럼 실패 비용이 큰 단계는 고성능 모델이 맞다. 반면 로그 포맷 변환, 테스트 케이스 초안 생성, 결과 요약, 대량 분류는 저렴한 모델로도 충분한 경우가 많다.

Terra와 Luna 가격은 대량 작업의 기준선을 낮춘다

Terra는 일상적인 업무용 균형 모델로 포지셔닝되어 있고, Luna는 빠르고 저렴한 대량 처리용 모델에 가깝다. 가격만 보면 Luna의 입력 0.20달러, 출력 1.20달러는 대량 분류나 사전 필터링 작업에 꽤 공격적이다. 고객 문의 10만 건을 카테고리별로 분류하거나, 오래된 문서 묶음에서 후보 문단을 뽑는 작업처럼 정확도보다 처리량과 비용이 먼저인 곳에 맞는다.

하지만 “저렴한 모델 = 아무 데나 붙여도 됨”은 아니다. 출력이 길어지는 작업에서는 여전히 비용이 커진다. 요약 시스템을 만들 때도 10만 자 문서를 넣고 5천 자 답변을 매번 생성하면 입력보다 출력 비용이 더 중요해진다. 특히 한국어 장문 생성은 출력 토큰이 빠르게 늘어난다.

따라서 Luna나 Terra를 붙일 때는 다음 기준이 필요하다.

• 입력은 크지만 출력은 짧은 작업인지 확인한다.
• 실패했을 때 상위 모델 재시도 루트가 있는지 정한다.
• 샘플 100건으로 정확도와 재시도율을 먼저 측정한다.
• 같은 프롬프트를 반복 호출한다면 캐시 적용 가능성을 본다.
• 출력 길이를 스키마나 글자 수 제한으로 고정한다.

이 기준 없이 가격표만 보고 모델을 바꾸면 월말 청구서에서 예상과 다른 숫자를 보게 된다.

Fast mode는 모든 요청에 켜는 기능이 아니다

Fast mode는 Sol 요청을 더 빠르게 처리하는 옵션이다. OpenAI는 표준 처리 대비 최대 2.5배 빠른 속도와 2배 가격을 언급했다. 응답 시간이 매출이나 사용자 이탈에 직접 연결되는 곳에서는 충분히 의미가 있다. 예를 들어 실시간 코드 리뷰, 고객 상담 중 실시간 답변, 회의 중 보조 에이전트처럼 사람이 화면 앞에서 기다리는 상황이다.

반대로 야간 배치, 리포트 생성, 데이터 라벨링, 비동기 PR 리뷰에는 Fast mode를 기본값으로 두면 낭비다. 이런 작업은 큐에 넣고 늦게 받아도 된다. 같은 Sol이라도 요청의 긴급도에 따라 처리 모드를 나누는 게 맞다.

실무에서는 API 호출 래퍼에 latency_class 같은 필드를 두는 방식이 좋다.

• interactive: 사용자가 기다리는 요청, Fast mode 후보.
• standard: 일반 백오피스 요청, 표준 처리.
• batch: 야간 처리나 대량 처리, 큐 기반.
• fallback: 실패 재시도 또는 품질 검증용.

이렇게 분리해두면 기능팀이 “빠르게 해주세요”라고 할 때 모든 요청을 Fast mode로 올리는 일을 막을 수 있다.

프롬프트 캐싱은 이제 설계 요소다

GPT-5.6 계열에서 캐시 breakpoint와 최소 30분 캐시 수명이 언급된 것도 중요하다. 에이전트 시스템은 보통 같은 시스템 프롬프트, 같은 툴 설명, 같은 정책 문서를 반복해서 넣는다. 이 고정 컨텍스트가 매 요청마다 과금되면 모델 단가를 낮춰도 비용이 잘 줄지 않는다.

캐시를 제대로 쓰려면 프롬프트를 고정부와 변동부로 나눠야 한다. 고정부에는 역할, 정책, 출력 스키마, 도메인 규칙, 도구 설명을 둔다. 변동부에는 사용자 입력, 현재 파일 diff, 최근 로그, 검색 결과를 둔다. 고정부가 자주 바뀌면 캐시 효율이 떨어진다. “오늘 날짜”나 “요청 ID” 같은 값이 고정부에 섞이면 매번 다른 프롬프트가 되어 캐시가 깨질 수 있다.

체크해야 할 지표는 단순하다. 전체 입력 토큰 중 캐시 가능한 토큰 비율, 캐시 hit rate, 캐시 write 비용, 캐시 read 절감액이다. 캐시 hit rate가 낮으면 모델을 바꾸기 전에 프롬프트 구조부터 고쳐야 한다.

운영팀이 이번 주에 해야 할 일

이번 변경은 모델 교체 공지가 아니라 비용 구조 재설계 신호에 가깝다. 이미 OpenAI API를 쓰고 있다면 다음 순서로 확인하면 된다.

1. 지난 7일 호출 로그를 작업 유형별로 나눈다. 생성, 분류, 요약, 코딩, 검색, 검증을 분리한다.
2. 각 유형의 평균 입력 토큰, 평균 출력 토큰, 실패율, 재시도율을 계산한다.
3. 최고 지능이 필요한 단계와 저렴한 모델로 충분한 단계를 나눈다.
4. Fast mode가 필요한 사용자 대기 요청만 따로 표시한다.
5. 시스템 프롬프트와 도구 설명을 캐시 가능한 고정부로 분리한다.
6. 100~300건 샘플 eval을 만들고 Sol, Terra, Luna를 같은 기준으로 비교한다.
7. 품질이 유지되는 최저 비용 조합을 기본값으로 배포한다.

결론은 단순하다. GPT-5.6 가격 인하는 “모든 것을 더 많이 쓰자”가 아니라 “워크플로우를 더 잘게 나누자”는 신호다. 비용 절감은 모델 선택에서 끝나지 않는다. 라우팅, 캐싱, 출력 제한, 재시도 정책까지 같이 바꿔야 실제 청구서가 내려간다.