Headroom은 정말 토큰을 95% 줄일까? AI 코딩 에이전트는 왜 점점 비싸지고, 컨텍스트 압축으로 실제 얼마를 아낄 수 있을까?

Headroom의 공개 벤치마크 문서는 토큰을 최대 95% 줄인 결과를 제시합니다(벤치마크 설명). 하지만 이 수치를 AI 코딩 에이전트의 청구액이 95% 줄어든다는 뜻으로 받아들이면 안 됩니다. 이번 주에는 같은 작업과 모델로 압축 전후 호출 기록을 비교하고, 실제 청구 토큰과 추가 요청까지 계산하세요. 절감액은 압축 대상 토큰이 전체 비용에서 차지하는 비중과 캐시 규칙, 재시도 여부에 따라 달라집니다.

이 글은 토큰 비용이 늘어난 이유를 찾는 개발자, 모델 호출 예산을 관리하는 팀, 에이전트 실행 환경까지 따져야 하는 기술 책임자를 위한 내용입니다.

비용 항목부터 나눠 확인하기

AI 코딩 에이전트의 청구액은 토큰 수 하나로 결정되지 않습니다. 입력 토큰과 출력 토큰의 단가가 다를 수 있고, 캐시된 입력이 별도 기준으로 과금될 수도 있습니다. OpenAI는 입력·출력 토큰별 요금과 모델별 기준을 공개하며, 프롬프트 캐시 요금과 사용량 항목도 따로 안내합니다. Claude와 Gemini도 각각 캐시를 포함한 요금 기준과 API 과금 설명을 확인해야 합니다.

작업 로그에서는 다음 비용 원인을 따로 살펴보세요.

• 입력 토큰: 시스템 지침, 저장소 정보, 파일 내용, 이전 대화가 반복해서 들어가는 비용입니다.
• 캐시 토큰: 캐시 적중 여부와 읽기·쓰기 기준에 따라 일반 입력과 과금 방식이 달라질 수 있습니다. 캐시된 양을 일반 입력과 합쳐 추정하지 마세요.
• 출력 토큰: 코드 변경안, 설명, 도구 사용 지시가 길어지면 입력 압축과 무관하게 비용이 늘 수 있습니다.
• 반복 호출: 도구 실행 결과를 다시 읽거나 테스트 실패를 수정하는 요청이 이어지면 작업 전체 호출량이 커집니다.
• 재시도: 압축으로 필요한 코드 맥락이 빠지면 에이전트가 파일을 다시 읽거나 수정안을 재생성할 수 있습니다.

따라서 “에이전트가 점점 비싸졌다”는 현상만으로 특정 원인을 단정할 수 없습니다. 호출별 입력·출력·캐시 토큰과 재시도 횟수를 실제 사용 내역에서 대조하세요.

Headroom의 95% 토큰 절감은 어떻게 해석해야 합니까?
벤치마크의 최대 절감률은 해당 문서가 사용한 조건에서 나온 결과입니다. Headroom의 제한 사항과 컨텍스트 관리 설명을 함께 확인하고, 압축 대상과 기준 토큰 수, 작업 종류, 결과 품질을 살펴야 합니다. 공개 수치만으로 모든 저장소와 에이전트 작업에서 같은 절감률이 난다고 볼 근거는 없습니다.

토큰 감소와 청구 감소를 분리하기

컨텍스트 압축은 보통 모델에 전달하는 입력을 줄이는 방식으로 작동합니다. 하지만 줄어든 양이 전부 청구 대상 입력이었는지, 캐시된 입력이었는지에 따라 비용 효과가 달라집니다. 출력 토큰은 압축률만큼 자동으로 감소하지 않습니다. 압축된 맥락 때문에 보충 요청이 늘면 전체 청구액이 오히려 커질 수도 있습니다.

실제 비교에는 아래처럼 토큰 범주별 단가를 적용하세요.

• 압축 전 비용 = 일반 입력 토큰 × 일반 입력 단가 + 캐시 입력 토큰 × 캐시 입력 단가 + 출력 토큰 × 출력 단가
• 압축 후 비용 = 같은 항목의 압축 후 사용량 × 해당 단가 + 추가 호출·재시도 비용
• 절감액 = 압축 전 비용 − 압축 후 비용

모델별 단가는 사용 중인 모델의 공식 요금 페이지에서 확인해 입력해야 합니다. 단가나 청구 내역을 모르는 상태라면 임의의 금액을 넣지 말고 변수로 남겨 두세요. 특히 캐시 토큰을 일반 입력 단가로 계산하거나, 토큰 감소율을 청구액 감소율로 바로 옮기면 결과가 틀어집니다.

토큰이 줄었는데도 청구액이 비슷할 수 있는 이유는 무엇입니까?
압축된 항목이 전체 비용에서 작은 부분일 수 있고, 줄어든 입력이 캐시 할인 대상이었을 수도 있습니다. 출력 생성량이 유지되거나 수정 요청이 추가되면 절감액은 더 작아집니다. 청구서의 실제 입력·출력·캐시 항목과 작업 로그를 같은 시간 범위로 맞춰 비교해야 합니다.

대표 작업으로 절감 효과 판정하기

아래 항목을 실행하면 Headroom의 공개 결과가 자신의 워크플로에 맞는지 확인할 수 있습니다.

• [ ] 반복 실행이 가능한 실제 코드 작업을 고릅니다. 간단한 질의 하나보다 파일 탐색, 수정, 테스트가 포함된 대표 작업이 적합합니다.
• [ ] 압축 전후에 모델, 에이전트 설정, 저장소 상태와 작업 지시를 동일하게 유지합니다.
• [ ] 같은 청구 기간에 입력, 캐시 입력, 출력 토큰과 호출 횟수를 기록합니다.
• [ ] 압축 뒤 추가된 파일 조회, 보충 요청, 수정 요청과 재시도를 별도로 셉니다.
• [ ] 결과물이 테스트를 통과하는지, 요구된 변경을 빠뜨리지 않았는지 같은 기준으로 확인합니다.
• [ ] 공식 단가를 적용해 작업당 비용과 성공적으로 끝난 작업당 비용을 각각 비교합니다.

판정은 세 갈래로 나누면 명확합니다. 압축률 높음·청구 절감 높음이면 적용 범위를 넓혀도 됩니다. 압축률 높음·청구 절감 낮음이면 캐시나 출력, 재시도 비용이 절감 효과를 상쇄하는지 확인하세요. 압축률 낮음 또는 품질 저하라면 해당 작업에는 설정을 적용하지 않거나 압축 범위를 줄이는 편이 낫습니다. 한 번의 실행 결과보다 같은 조건에서 반복한 기록과 품질 검토를 우선하세요.

모델 호출료와 실행 환경을 따로 계산하기

컨텍스트 압축이 바꿀 수 있는 비용은 모델 호출료의 일부입니다. 에이전트가 실행되는 컴퓨터나 서버의 비용은 별도 항목입니다. 클라우드 맥이나 원격 맥을 선택해도 모델의 토큰 청구액이 자동으로 낮아지지는 않습니다. 반대로 모델 비용이 절감되더라도 상시 실행이 필요한 환경 비용은 그대로 남을 수 있습니다.

맥 실행 환경이 필요한 팀은 원하는 지역과 구성, 이용 조건을 따로 확인해야 합니다. VPSSpark의 한국 지역 옵션과 일본 지역 옵션은 실행 환경 검토를 위한 별도 항목으로 살펴볼 수 있습니다. 이 정보로 토큰 요금을 추산하지 말고, 모델 호출료와 운영 환경 비용을 각각 예산에 반영하세요.

이번 주에는 대표 작업의 호출 로그를 모아 같은 모델과 과금 기간 기준으로 압축 전후를 비교하세요. 모델 비용만 줄이려는 목적이라면 먼저 캐시와 반복 호출을 점검하는 편이 정확합니다. 지속적인 맥 실행 환경까지 필요하다면 자체 장비 구매와 임시 대여를 운영 기간에 맞춰 비교하고, 단기 테스트나 일시적 부하 대응에는 VPSSpark의 맥 대여를 별도 실행 환경 비용으로 검토하세요.