> ## Documentation Index
> Fetch the complete documentation index at: https://docs.cloud.vessl.ai/llms.txt
> Use this file to discover all available pages before exploring further.

# PTU와 과금 이해하기

> PTU가 무엇인지, 모델별로 1 PTU가 분당 처리하는 토큰량은 얼마인지, 계약은 어떻게 과금되는지 정리했어요.

<strong>PTU(Provisioned Throughput Unit)</strong>는 모델과 관계없이 같은 기준으로 서빙 용량을 세는 단위예요. 모든 모델에 같은 PTU 단가가 적용되고, 모델마다 다른 건 1 PTU가 분당 처리할 수 있는 토큰량이에요. 계약할 때 트래픽에 맞춰 예약할 PTU 수량을 정해요.

## 과금 기준

|            |                |
| ---------- | -------------- |
| **단가**     | PTU당 분당 \$0.05 |
| **PTU 수량** | 세일즈팀과 개별 협의    |
| **계약 기간**  | 세일즈팀과 개별 협의    |
| **정산 주기**  | 월 단위           |

단가는 모델과 워크로드 형태에 관계없이 같아요. 계약 용량 안에서는 보낸 토큰 수가 아니라 예약한 PTU 수량을 기준으로 과금돼요.

## 1 PTU당 처리 용량

1 PTU가 분당 처리할 수 있는 토큰량(TPM)이에요. 모델마다, 그리고 토큰 유형(캐시되지 않은 입력, 캐시된 입력, 출력)마다 달라요.

| 모델             | 입력(TPM) | 캐시된 입력(TPM) | 출력(TPM) |
| -------------- | ------- | ----------- | ------- |
| **MiniMax M3** | 166,667 | 833,333     | 41,667  |
| **GLM 5.2**    | 35,714  | 192,308     | 11,364  |

표의 값은 모델별 기본값이에요. 계약에서 1 PTU당 처리 용량을 다르게 정할 수 있고, 그 경우 모델 페이지와 **Estimate total cost** 계산기도 계약에서 정한 값을 기준으로 계산해요.

## PTU와 절감액 예상하기

모든 모델 페이지에 **Estimate total cost** 계산기가 있어요. 초당 최대 요청 수, 캐시 적중률(cache hit rate), 요청당 평균 입력·출력 토큰 수를 입력하면 필요한 PTU 수와 예상 월 비용, 비교 대상으로 고른 프론티어(frontier) 모델 대비 예상 절감액을 보여줘요.

<div>
  <Frame>
    <img src="https://mintcdn.com/dora/3AK1OUE3yJcIiP_z/images/inference-estimate-ptu.png?fit=max&auto=format&n=3AK1OUE3yJcIiP_z&q=85&s=c46bb30a958fbfa12ed1a2bf44c8092b" alt="Estimate your PTUs & cost 패널: 모델과 비교 대상 선택, 트래픽 입력값, 필요한 PTU 수, 예상 월 비용, 예상 월 절감액" width="1108" height="1430" data-path="images/inference-estimate-ptu.png" />
  </Frame>

  <small>예시: 샘플 워크로드에 대한 계산기 입력값과 결과</small>
</div>

## 계산 예시

예를 들어 MiniMax M3를 8 PTU로 계약하면, 분당 아래 중 하나만큼 처리할 수 있어요.

* 캐시되지 않은 입력 토큰 1,333,336개
* 캐시된 입력 토큰 6,666,664개
* 출력 토큰 333,336개

실제 트래픽은 세 유형이 섞여 있어서, 각 유형이 용량의 일부를 나눠 써요. PTU당 분당 \$0.05로 계산하면 8 PTU는 하루 \$576이에요. **Estimate total cost** 계산기는 한 달을 730시간으로 잡기 때문에, 같은 8 PTU가 한 달에 약 \$17,520이 돼요.

<Note>
  실제로 계약할 PTU 수량은 PoC(Proof of Concept) 단계에서 실 트래픽 벤치마크로 확정해요. 계산기 결과는 견적이 아니라 계획을 세울 때 쓰는 참고 수치예요. [Provisioned Throughput 요청하기](/ko/inference/request)를 참고하세요.
</Note>

## 용량을 초과하는 트래픽

예약한 PTU가 SLA로 보장되는 용량을 정해요. 그 용량을 넘는 트래픽은 SLA 적용 대상이 아니에요. [SLA 이해하기](/ko/inference/sla)를 참고하세요.

용량을 자주 초과한다면 [세일즈팀에 문의](https://vessl.ai/ko/talk-to-sales?utm_source=docs\&utm_medium=referral\&utm_campaign=inference_kr\&utm_content=ptu_more_capacity)해서 PTU를 추가할 수 있어요.