Skip to main content
API Key가 활성화되면 두 곳에서 수치를 볼 수 있어요. 하나는 각 모델 페이지에 있는 Usage summary 카드(기본값은 이번 달)이고, 다른 하나는 사이드바 InferenceMonitoring으로 여는 Monitoring Dashboard예요. 대시보드에서는 선택한 기간의 토큰 사용량, 성능(performance), 안정성(reliability)을 파악할 수 있어요.
아래 데모에서 모델 페이지를 열고 Monitoring Dashboard로 넘어가 탭별로 지표를 확인하는 과정을 볼 수 있어요.

Usage summary

모델 페이지에 있는 카드예요. 카드 상단의 월 선택기로 다른 정산 월로 이동하고, View details in Monitoring으로 Monitoring Dashboard를 열 수 있어요.
Usage summary 카드: 월 선택기, 분당 최고 토큰 사용량, 캐시된 입력, 입력, 출력 토큰의 비중이 함께 표시된 총 비용, 그리고 일별 토큰 사용량 추이 차트

Monitoring Dashboard

사이드바에서 InferenceMonitoring을 열거나 모델 페이지에서 View details in Monitoring을 클릭하세요. 기간과 모델(또는 전체)을 고르면 세 개의 탭에서 지표를 볼 수 있어요.
Monitoring Dashboard: Token, Performance, Reliability 탭과 기간 선택기, 모델 선택기, 그리고 Total Tokens per Minute 차트

용량 추가가 필요할 때

Peak token usage가 보장 용량에 가까워졌다면 PTU를 추가하세요. 세일즈팀에 문의하거나 모델 페이지에서 Need more capacity?를 클릭하세요. 계약 관리하기를 참고하세요.