GPT-5.6 API 출시: Sol·Terra·Luna를 개발팀이 나눠 쓰는 기준

요약: OpenAI가 GPT-5.6 계열을 일반 공개하면서 개발팀의 모델 선택 기준이 다시 바뀌었다. 이번 업데이트의 핵심은 단순히 “더 똑똑한 모델”이 아니다. Sol, Terra, Luna라는 세 가지 성능·비용 계층, Responses API의 Programmatic Tool Calling, multi-agent 베타, 더 예측 가능한 prompt caching이 함께 들어왔다. 검색 의도는 분명하다. “GPT-5.6 API를 어디에 써야 하고, 비용은 어떻게 통제해야 하나?”에 대한 실무 답이다.

GPT-5.6에서 개발자가 먼저 봐야 할 변화

이번 GPT-5.6 발표에서 개발자가 바로 확인해야 할 항목은 네 가지다.

첫째, 모델 계층이 명확해졌다. Sol은 플래그십, Terra는 일상 업무용 균형 모델, Luna는 가장 저렴하고 빠른 모델이다. API 가격도 계층별로 다르다. OpenAI 발표 기준 100만 토큰당 Sol은 입력 5달러와 출력 30달러, Terra는 입력 2.5달러와 출력 15달러, Luna는 입력 1달러와 출력 6달러다. 가격표만 보면 Luna가 무조건 좋아 보이지만, 실제 운영에서는 실패율과 재시도 비용까지 포함해야 한다.

둘째, Programmatic Tool Calling이 Responses API에 들어왔다. 모델이 도구 결과를 전부 다시 읽는 방식이 아니라, 가벼운 프로그램을 실행해 중간 결과를 필터링하고 필요한 정보만 유지할 수 있다. 로그 검색, 대량 문서 요약, 브라우징 결과 선별처럼 중간 데이터가 큰 작업에서 의미가 크다.

셋째, multi-agent 베타가 공개됐다. 하나의 요청 안에서 여러 하위 에이전트를 병렬로 실행하고, 결과를 합성하는 구조다. 기존에는 개발팀이 큐, 워커, 상태 저장, 합성 로직을 직접 붙여야 했다. 이제는 일부 패턴을 API 레벨에서 더 표준화할 수 있다.

넷째, prompt caching이 더 예측 가능해졌다. GPT-5.6 이후 모델에서는 명시적 cache breakpoint와 최소 30분 캐시 수명을 지원한다. 캐시 쓰기는 비캐시 입력 단가의 1.25배, 캐시 읽기는 기존처럼 캐시 입력 90% 할인 구조다. 반복 컨텍스트가 큰 에이전트 서비스라면 비용 구조가 꽤 달라진다.

Sol, Terra, Luna를 한 모델처럼 쓰면 비용이 터진다

개발팀이 흔히 하는 실수는 “최신 모델 하나로 전부 처리”하는 것이다. 데모 단계에서는 편하다. 하지만 실제 트래픽이 붙으면 모델 단가보다 더 무서운 것이 출력 토큰과 재시도다.

예를 들어 코드 리뷰 봇을 만든다고 하자. PR 설명 생성, 변경 파일 요약, 테스트 실패 원인 추정, 보안 취약점 의심 지점 분석을 모두 Sol로 돌리면 품질은 안정적일 수 있다. 하지만 모든 단계가 같은 난이도는 아니다.

• 변경 파일 목록 분류: Luna로 충분한 경우가 많다.
• PR 요약과 릴리즈 노트 초안: Terra가 비용 대비 적절하다.
• 보안 영향 분석, 복잡한 리팩터링 판단: Sol을 써야 한다.
• 실패한 테스트 로그 5만 줄 필터링: 모델보다 Programmatic Tool Calling이나 사전 파서가 먼저다.

모델 라우팅은 “저렴한 모델부터 시도하고 실패하면 상위 모델로 올린다”로 끝나지 않는다. 실패를 어떻게 정의할지가 중요하다. JSON 스키마 불일치, 근거 없는 판단, 테스트 명령 누락, 보안 체크리스트 미충족처럼 워크플로우별 실패 조건을 코드로 잡아야 한다.

실무 기준은 다음처럼 나누는 것이 안전하다.

Programmatic Tool Calling은 “툴 호출 더 잘함”이 아니라 컨텍스트 절약 장치다

툴 호출 기반 에이전트의 병목은 모델 지능만이 아니다. 더 자주 터지는 문제는 중간 결과가 너무 많아지는 것이다. 검색 결과 50개, 로그 수천 줄, 파일 diff 수십 개를 모델에 그대로 넣으면 비용도 커지고 판단도 흐려진다.

Programmatic Tool Calling의 실용적 가치는 여기에 있다. 모델이 도구를 부른 뒤, 작은 프로그램으로 다음 처리를 수행할 수 있다.

• 로그에서 ERROR, WARN, stack trace 주변 30줄만 남긴다.
• 검색 결과 중 중복 도메인과 오래된 문서를 제거한다.
• JSON 배열에서 필요한 필드만 추출한다.
• 테스트 결과를 pass/fail, 실패 파일, 실패 메시지로 축약한다.
• 여러 API 응답을 하나의 표준 스키마로 정규화한다.

이 구조를 쓰면 “모델이 모든 것을 읽고 판단”하는 방식에서 “코드가 좁히고 모델이 판단”하는 방식으로 바뀐다. 개발팀 입장에서는 디버깅 가능성이 올라간다. 비용도 예측하기 쉬워진다.

주의할 점도 있다. 프로그램이 중간 데이터를 버리는 순간, 모델은 버려진 정보를 근거로 판단할 수 없다. 따라서 필터링 규칙은 로그로 남겨야 한다. 예를 들어 “최근 1시간 로그만 사용”, “동일 메시지는 3개까지만 유지”, “보안 관련 키워드는 무조건 보존” 같은 규칙을 명시해야 한다. 나중에 오판이 났을 때 모델 문제가 아니라 전처리 문제였는지 확인할 수 있어야 한다.

multi-agent는 병렬 처리보다 검증 구조가 먼저다

GPT-5.6의 multi-agent 베타는 복잡한 작업을 여러 하위 에이전트로 나누는 데 유용하다. 하지만 “에이전트를 여러 개 띄우면 더 좋다”는 식으로 쓰면 실패한다. 병렬성은 품질을 자동으로 보장하지 않는다. 오히려 서로 다른 가정으로 만든 결과를 합치다가 충돌이 생긴다.

실무에서 multi-agent가 맞는 경우는 다음과 같다.

1. 독립적으로 조사할 수 있는 하위 문제가 있다.
2. 각 하위 결과를 검증할 기준이 있다.
3. 합성 단계에서 충돌을 해결할 규칙이 있다.
4. 전체 비용과 최대 실행 시간을 제한할 수 있다.
5. 사람이 승인해야 하는 지점이 명확하다.

예를 들어 “대규모 레거시 코드베이스에서 결제 모듈 리팩터링 계획 세우기”는 multi-agent에 맞다. 한 에이전트는 API 경계를 보고, 다른 에이전트는 DB 트랜잭션을 보고, 또 다른 에이전트는 테스트 커버리지를 본다. 마지막 합성 에이전트는 공통 리스크와 실행 순서를 정리한다.

반대로 “사용자 문의 한 건에 답변하기”처럼 입력이 작고 즉시성이 중요한 작업에는 multi-agent가 과하다. 지연과 비용만 늘 수 있다.

prompt caching은 긴 시스템 프롬프트보다 반복 컨텍스트에 써야 한다

GPT-5.6의 prompt caching 개선은 에이전트 운영팀에게 꽤 현실적인 뉴스다. 명시적 cache breakpoint와 최소 30분 수명은 반복되는 컨텍스트를 다루기 쉽게 만든다.

캐싱 후보는 다음과 같다.

• 제품 정책 문서
• API 스펙
• 코드베이스 요약
• 고객 지원 매크로
• 보안 리뷰 체크리스트
• 팀 코딩 컨벤션
• 에이전트 역할 정의와 출력 스키마

다만 캐시는 공짜가 아니다. 쓰기 비용이 1.25배이고, 읽을 때 90% 할인이 적용된다. 즉 한 번 쓰고 다시 안 읽는 컨텍스트는 손해다. 최소 30분 안에 여러 요청에서 재사용되는 정보가 적합하다.

운영 기준은 단순하다. 캐시 후보별로 “평균 입력 토큰”, “30분 내 재사용 횟수”, “캐시 미스 시 허용 비용”, “캐시 무효화 조건”을 표로 관리하라. 제품 정책이 바뀌었는데 캐시가 살아 있으면 잘못된 답변이 나갈 수 있다. 캐시 전략은 비용 최적화이면서 동시에 최신성 관리다.

도입 순서: 모델 교체보다 계측부터

GPT-5.6 API를 바로 프로덕션 기본 모델로 바꾸는 것은 추천하지 않는다. 먼저 현재 워크플로우의 기준선을 잡아야 한다.

1단계는 기존 요청을 유형별로 나누는 것이다. 분류, 생성, 코드 수정, 검색, 검증, 요약처럼 작업군을 나눈다.

2단계는 각 작업군의 성공 기준을 정한다. 사람이 “좋다”고 느끼는 수준이 아니라, 코드로 검사할 수 있는 기준이 필요하다. JSON 스키마 통과, 테스트 통과, 금지 문구 없음, 근거 URL 포함, 변경 파일 수 제한 같은 기준이다.

3단계는 Luna, Terra, Sol을 같은 샘플에 돌려 비용과 성공률을 비교한다. 이때 토큰 단가만 보지 말고 accepted outcome당 비용을 봐야 한다.

4단계는 캐싱과 Programmatic Tool Calling으로 입력 토큰을 줄인다. 모델을 올리는 것보다 컨텍스트를 줄이는 편이 더 싸고 안정적인 경우가 많다.

5단계는 일부 고난도 작업에만 multi-agent를 적용한다. 병렬 에이전트는 비용 상한, 타임아웃, 합성 규칙 없이는 운영 장애로 이어질 수 있다.

실행 체크리스트

• 기존 AI 기능을 작업 유형별로 분류했다.
• 각 작업 유형의 성공 기준을 코드로 정의했다.
• Luna, Terra, Sol의 accepted outcome당 비용을 비교했다.
• 반복 컨텍스트를 캐시 후보로 분리했다.
• 캐시 무효화 조건을 문서화했다.
• Programmatic Tool Calling으로 중간 결과를 줄일 수 있는 지점을 찾았다.
• multi-agent는 독립 하위 작업과 합성 기준이 있을 때만 사용한다.
• 고비용 모델 호출에는 사용자, 팀, 기능별 예산 한도를 둔다.
• 모델 변경 전후의 실패율, 지연 시간, 재시도 횟수를 대시보드로 본다.

GPT-5.6 API의 핵심은 성능 향상 자체가 아니다. 개발팀이 모델 계층, 도구 실행, 캐싱, 병렬 에이전트를 조합해 “더 비싼 모델을 더 적게 쓰는 구조”를 만들 수 있다는 점이다. 이번 업데이트를 모델명 교체로만 보면 비용이 늘고, 워크플로우 재설계 기회로 보면 운영 효율이 올라간다.