퇴근 전에 회의록이나 문서 묶음을 AI에 맡기고 다음 날 아침에 결과를 받는 식의 작업은 몇 초 안에 답이 올 필요가 없습니다. 그래도 별도 설정이 없으면 이런 요청에도 바로 답을 받는 요청과 같은 Standard 요금이 적용됩니다.
OpenAI는 2026년 11월 17일 API 변경 기록에서 Responses API의 백그라운드 모드에 2시간·8시간 ‘완료 창(completion window)’을 공개 베타로 추가했다고 밝혔습니다. 결과를 늦게 받아도 되는 요청이라면 모델 토큰 요금을 깎아 주는 방식입니다.
이 글은 OpenAI 공식 개발자 문서를 기준으로 할인 폭, 쓸 수 있는 모델, 필요한 설정, Batch API와의 차이, 쓰기 전에 확인할 점을 정리했습니다. ChatGPT 개인 구독 요금과는 관계없는 API 과금 이야기입니다.
1. 무엇이 바뀌었나: 완료 창 세 가지
OpenAI 백그라운드 모드 가이드에 따르면 이제 백그라운드 요청에 background_options.completion_window 값을 지정할 수 있습니다. 선택지는 세 가지입니다.
- soonest(기본값): 가능한 한 빨리 처리합니다. 할인은 없습니다.
- 2h: 요청이 접수된 뒤 2시간 안에 첫 응답을 내는 것을 목표로 합니다. 모델 토큰 요금이 Standard보다 30% 낮습니다.
- 8h: 8시간 안을 목표로 합니다. 모델 토큰 요금이 Standard보다 40% 낮습니다.
문서는 2시간 창의 예로 오전에 들어온 고객 문의를 오후 회의 전에 분석하는 작업을, 8시간 창의 예로 밤사이 문서를 검토해 다음 날 아침에 보는 작업을 들었습니다. 사람이 화면 앞에서 기다리는 작업이라면 기본값인 soonest가 맞습니다.
완료 시간은 요청이 받아들여진 시점부터 계산되며, 문서 표현은 그 시간 안에 끝내는 것을 ‘목표로 한다’입니다. 정확히 몇 시에 끝난다는 보장으로 읽으면 안 됩니다.
2. 얼마나 싸지나: 모델별 계산 예시
OpenAI API 요금 페이지는 GPT-6.2 Astra, GPT-6.2 Sol, GPT-6.1 Terra, GPT-6 Luna의 ‘적격 백그라운드 요청’ 모델 토큰 요금이 2시간 창에서 30%, 8시간 창에서 40% 낮다고 적고 있습니다. 아래는 같은 페이지의 Standard 단문 컨텍스트 요금(100만 토큰당, 미국 달러)에 할인율을 곱해 이 글에서 직접 계산한 값입니다.
- GPT-6.2 Astra: Standard 입력 $8.00·출력 $40.00 → 2h 입력 $5.60·출력 $28.00 → 8h 입력 $4.80·출력 $24.00
- GPT-6.2 Sol: Standard 입력 $2.00·출력 $10.00 → 2h $1.40·$7.00 → 8h $1.20·$6.00
- GPT-6.1 Terra: Standard 입력 $1.00·출력 $5.00 → 2h $0.70·$3.50 → 8h $0.60·$3.00
- GPT-6 Luna: Standard 입력 $0.10·출력 $0.50 → 2h $0.07·$0.35 → 8h $0.06·$0.30
예를 들어 GPT-6.2 Sol로 입력 100만 토큰, 출력 20만 토큰을 처리하면 Standard로는 $4.00이고, 8시간 창으로는 $2.40이 됩니다. 실제 청구액은 긴 컨텍스트 여부, 캐시 입력, 도구 사용 등에 따라 달라지므로 요금 페이지에서 해당 항목을 따로 확인하는 것이 안전합니다.
3. 할인받으려면 맞춰야 하는 설정
공식 가이드는 할인 창이 적용되는 조건을 비교적 구체적으로 적어 두었습니다. 하나라도 빠지면 할인 대상이 아닐 수 있습니다.
- background를 true로 설정합니다.
- background_options.completion_window를 2h 또는 8h로 지정합니다.
- stream은 비워 두거나 false로 둡니다. 할인 창 요청은 스트리밍을 쓸 수 없습니다.
- Standard 처리여야 합니다. service_tier를 default로 두면 Standard가 선택되고, auto로 두면 API가 Standard를 고른 경우에만 할인 대상이 됩니다.
- 모델은 현재 공개 베타 대상인 GPT-6.2 Astra, GPT-6.2 Sol, GPT-6.1 Terra, GPT-6 Luna 중 하나여야 합니다.
결과는 웹훅의 response.completed 이벤트로 받거나, 응답 ID로 상태를 주기적으로 조회하는 방식으로 확인합니다. 가이드는 2h·8h 요청이 접수된 뒤에는 처리 용량 부족 같은 일부 오류를 API가 자동으로 재시도한다고 설명합니다.
4. 여러 단계 작업은 continuation_id로 묶기
에이전트처럼 첫 응답을 받은 뒤 도구를 실행하고 다시 요청하는 작업도 할인 창을 쓸 수 있습니다. 가이드에 따르면 할인은 후속 요청을 포함해 조건에 맞는 각 요청의 모델 토큰 요금에 적용됩니다.
이때 background_options.continuation_id에 애플리케이션이 정한 고유 ID를 넣고, 후속 요청에서도 같은 모델·서비스 등급·완료 창·continuation_id를 같은 프로젝트에서 재사용하면 후속 요청이 더 높은 대기열 우선순위를 받을 수 있습니다. 응답 한 번으로 끝나는 작업이라면 이 값은 비워 두면 됩니다.
주의할 점은 이전 응답이 만료될 수 있다는 것입니다. 가이드는 이후에 작업을 이어 가야 할 수 있다면 원래 입력과 응답 output 전체를 미리 저장해 두고, 만료된 경우 previous_response_id 대신 대화 기록을 input에 다시 넣으라고 안내합니다.
5. Batch API, Flex와는 무엇이 다른가
Batch API 가이드는 여러 요청을 파일로 묶어 제출하고 24시간 안에 처리하는 방식이며, 동기 요청보다 50% 저렴하다고 안내합니다. 요금 페이지의 Batch 표에서도 GPT-6.2 Astra가 입력 $4.00·출력 $20.00으로 Standard의 절반입니다.
- Batch: 미리 모아 둔 독립적인 요청을 한꺼번에 처리할 때 적합합니다. 할인 폭이 더 크지만 24시간 창입니다.
- 2h·8h 완료 창: 한 번씩 보내는 요청이나, 앞 응답을 보고 다음 요청을 정하는 다단계 작업에 쓸 수 있습니다.
- Flex: 가이드는 GPT-6.2 Astra와 Sol부터 새 모델에 Flex 처리를 제공하지 않는다고 밝혔습니다. 요금 페이지도 기존 모델의 Flex는 베타 종료 과정에서 당분간 유지하되 종료일은 확정되면 알리겠다고 적었습니다.
요금 제한 가이드에 따르면 2h·8h 요청은 Batch 작업과 같은 ‘Batch/Background Rate Limit’을 함께 씁니다. 입력 토큰이 제출 시점에 계산되므로, 대규모 Batch 작업을 돌리는 조직이라면 두 작업의 대기 용량을 함께 계획해야 합니다. 기본 soonest 요청은 일반 요청·토큰 한도를 따릅니다.
6. 쓰기 전에 확인할 주의점
- 공개 베타입니다. 대상 모델, 할인율, 동작 방식은 바뀔 수 있으니 적용 전에 공식 문서를 다시 확인해야 합니다.
- 시간은 목표치입니다. 결과가 꼭 필요한 마감이 있다면 여유를 두거나 지연 시 대체 경로를 마련해 두는 것이 좋습니다.
- 프롬프트 캐시가 섞이지 않습니다. 가이드는 할인 창 밖의 Standard 요청이 2h·8h 요청이 만든 프롬프트 캐시를 재사용할 수 없다고 적었습니다. 같은 프롬프트를 두 방식으로 번갈아 보내면 캐시 효과를 기대하기 어렵습니다.
- 데이터가 일시 저장됩니다. 백그라운드 모드는 store를 false로 두거나 데이터 무보존(ZDR)을 쓰더라도 실행과 결과 조회를 위해 응답 데이터를 일시 저장하며, 저장 내용은 암호화된다고 문서에 나와 있습니다. 민감한 문서를 다룬다면 데이터 정책 문서를 함께 확인해야 합니다.
- 스트리밍 화면에는 맞지 않습니다. 답이 실시간으로 표시돼야 하는 서비스라면 soonest 창과 stream 설정을 써야 합니다.
독립 보도도 같은 내용을 전했습니다. TokenPost는 이 기능이 네 개 모델에서 공개 베타로 제공되며, 할인 요청은 Standard 처리가 필요하고 스트리밍을 쓸 수 없으며 Batch API와 요금 제한을 공유한다고 보도했습니다.
정리
결과를 몇 시간 뒤에 받아도 되는 API 작업이라면 2시간 창은 30%, 8시간 창은 40% 낮은 모델 토큰 요금으로 처리할 수 있습니다. 대상은 GPT-6.2 Astra, GPT-6.2 Sol, GPT-6.1 Terra, GPT-6 Luna이고, background true·Standard 처리·스트리밍 미사용이 조건입니다.
도입을 검토한다면 작업이 실제로 몇 시간 지연을 견딜 수 있는지, Batch API의 50% 할인과 24시간 창이 더 맞지 않는지, Batch와 공유하는 대기 한도가 충분한지, 프롬프트 캐시 효과가 줄어드는 부분은 없는지를 순서대로 확인해 보시길 권합니다.
출처
- OpenAI API 문서: Background mode (공식 1차 자료)
- OpenAI API 문서: Pricing (공식 1차 자료)
- OpenAI API 문서: Changelog, 2026년 11월 17일 항목 (공식 1차 자료)
- OpenAI API 문서: Batch API (공식 1차 자료)
- OpenAI API 문서: Rate limits (공식 1차 자료)
- TokenPost: OpenAI Adds 2- and 8-Hour Completion Windows With Token Discounts
자료 확인일: 2026년 11월 21일(한국 시간). 요금은 미국 달러 기준이며 이후 변경될 수 있습니다.
AI로 생성한 설명용 일러스트이며 실제 사건의 사진이 아닙니다.
