KO ▾
API 키 받기
무검열 LLM API 가격 가이드

토큰 기반 API 요금제 작동 방식, 쉽게 설명

OpenAI API 요금제 모델은 토큰 기반입니다: 보낸 토큰과 모델이 반환한 토큰에 대해 서로 다른 두 가지 요금으로 청구됩니다. 이 페이지는 각 부분을 쉬운 언어로 설명하고, 당사 OpenAI 호환 API가 동일한 개념을 어떻게 적용하는지 보여줍니다.

업데이트

입력 및 출력 토큰 요금을 시각화한 미터로 유입되는 작은 큐브와 유출되는 큰 큐브
주요 포인트
  • 입력에는 하나의 요금, 출력에는 더 높은 요금을 적용하여 토큰당 지불합니다.
  • 대화 기록은 각 턴마다 다시 전송되므로 긴 대화는 짧은 대화보다 메시지당 비용이 더 많이 듭니다.
  • 속도 제한은 요청 전송 속도를 제한합니다. 토큰당 가격은 변경되지 않습니다.
  • 당사의 API는 선불 크레딧에서 1M 토큰당 $0.15와 $0.50을 부과하며, 어떤 벤더의 제품과도 별개입니다.

단락으로 보는 모델

호스팅된 언어 모델 API는 일반적으로 좌석 수 대신 사용량에 따라 판매됩니다. 프로그램이 텍스트를 보내면 서비스는 입력된 토큰 수와 출력된 토큰 수를 세고, 청구 금액은 해당 수에 백만 토큰당 가격을 곱한 것입니다. 입력과 출력은 별도의 가격이 있습니다. 서로 다른 모델은 서로 다른 가격을 가집니다. 몇 가지 추가 규칙이 위에 적용됩니다: 속도 제한, 컨텍스트 창 및 지불 방식(선불 또는 청구서). 이것이 전체 요금제 모델이며, 이 페이지의 나머지 부분은 각 부분을 설명합니다.

먼저 명확히 합니다. 사람들이 이 구문을 검색창에 입력할 때 종종 OpenAI 자체의 가격표를 의미합니다. 당사는 OpenAI가 아니며, 가격이 자주 변경되므로 소스에서 확인해야 하므로 여기서는 그들의 가격을 인용하지 않습니다. 정확히 설명할 수 있는 것은 구조이며, 이는 대부분의 제공업체가 공유하며 당사 API에서 작동하는 방식입니다: 독립적인 제공업체가 운영하는 호스팅된 OpenAI 호환 텍스트 전용 API로, 모델은 uncensored입니다.

토큰은 단위입니다

토큰은 모델이 읽거나 작성하는 텍스트의 조각입니다. 짧은 단어 전체, 긴 단어의 일부, 숫자 또는 구두점일 수 있습니다. 일반적인 영어 텍스트의 경우 대략적인 경험 법칙은 토큰 하나당 약 4자 또는 단어의 3/4이라는 것입니다. 다른 언어, 코드 및 특수한 형식은 동일한 가시적 길이에 더 많은 토큰을 사용하므로 경험 법칙을 추정치로 취급하고 실제 개수를 API에서 확인하십시오.

API의 모든 응답에는 prompt_tokens 및 completion_tokens이 포함된 사용량 개체가 포함됩니다. 스트리밍 응답의 경우 사용량 정보는 마지막에 도착합니다. 이 두 숫자가 청구 기준입니다. 요청 수나 호출 시간과 같은 다른 요소는 가격에 포함되지 않습니다.

단위가 토큰이므로 동일한 기능은 구현 방식에 따라 저렴하거나 비쌀 수 있습니다. 한 줄 분류 프롬프트는 1,000회 호출당 1센트 미만일 수 있습니다. 60페이지 문서를 각 요청에 붙여넣는 프롬프트는 호출 횟수가 같더라도 훨씬 더 비쌉니다.

입력과 출력은 가격이 다릅니다

입력 토큰은 전송하는 모든 것입니다: 시스템 메시지, 대화 기록, 사용자의 최신 메시지, 도구 정의 및 도구 결과입니다. 출력 토큰은 모델이 생성하는 모든 것입니다. 텍스트 생성은 읽는 것보다 더 많은 컴퓨팅을 필요로 하므로 제공업체는 출력을 더 비싸게 책정합니다. 당사 API의 요금은 다음과 같습니다:

토큰 100만 개당토큰당
입력$0.15$0.00000015
출력$0.50$0.0000005

출력은 0.50 / 0.15이며, 토큰당 약 3.3배 더 비쌉니다. 이 비율이 설계 결정에 영향을 미칩니다. 앱이 3,000토큰의 프롬프트를 보내고 100토큰의 라벨을 받으면 입력은 $0.00045, 출력은 $0.00005이므로 프롬프트가 비용의 90%를 차지하며 이를 줄이는 것이 가장 중요합니다. 앱이 200토큰의 프롬프트에서 2,000토큰의 이야기를 요청하면 입력은 $0.00003, 출력은 $0.001이므로 출력은 비용의 97%를 차지하며, 여기서 핵심은 이야기의 길이입니다.

자신도 숫자를 확인하십시오: 3,000 x 0.15 / 1,000,000 = 0.00045. 100 x 0.50 / 1,000,000 = 0.00005. 200 x 0.15 / 1,000,000 = 0.00003. 2,000 x 0.50 / 1,000,000 = 0.001.

기록이 시간이 지남에 따라 채팅 비용을 더 많이 만드는 이유

API는 상태가 없습니다. 모델은 이전 요청을 기억하지 않으므로 채팅 애플리케이션은 새 요청과 함께 이전 메시지를 다시 전송합니다. 따라서 10번째 턴의 입력에는 1부터 9번째 턴까지의 내용이 다시 포함되며, 매번 해당 토큰에 대해 지불합니다.

각 턴당 총 400토큰이 추가되는 채팅을 가정해 봅시다. 1번째 턴은 약 400토큰의 컨텍스트를 전송하고, 10번째 턴은 약 4,000토큰, 50번째 턴은 약 20,000토큰을 전송합니다. 당사 API의 모델 컨텍스트 창은 프롬프트와 완료 합계 100,000토큰이므로 매우 긴 세션은 비용 여부와 상관없이 결국 트리밍이 필요합니다. 일반적인 해결책은 다음과 같습니다:

  • 시스템 프롬프트와 마지막 N턴을 유지하고 중간 부분을 삭제합니다.
  • 이전 턴을 짧은 메모로 요약하고 대신 해당 메모를 전송합니다.
  • 긴 기간의 사실을 채팅 외부에 저장하고 관련 사실만 삽입합니다.

구체적인 숫자: 각 1,000회 요청과 함께 전송되는 1,000토큰 시스템 프롬프트는 1,000,000 입력 토큰이며, 이는 $0.15입니다. 자체적으로는 괜찮습니다. 그러나 각 100,000회 요청과 함께 전송되는 10,000토큰 캐릭터 시트는 1,000,000,000 입력 토큰, 즉 $150입니다. 고정 오버헤드는 부피에 곱해지며, 이 곱셈이 주의해야 할 사항입니다.

구독이 아닌 선불 크레딧

제공업체는 자금 이체 방식이 다릅니다. 일부는 월이 끝난 후 청구하고, 일부는 선불 잔액에서 차감하며, 일부는 월별 계획과 혼합합니다. 당사 API에서는 간단합니다: 크레딧을 추가하면 사용량이 차감되며, 자동으로 갱신되지 않습니다. 크레딧은 만료되지 않습니다. 실패하거나 거부된 요청에는 요금이 부과되지 않습니다.

충전은 $20에서 $500 사이의 정수 금액으로 가능하며, $50부터 +5%, $100부터 +10%, $200부터 +15%의 보너스가 제공됩니다. 따라서 $100은 $110의 크레딧을, $200은 $230의 크레딧을 제공합니다. 암호화폐(USDT on TRC20, USDC on Base)로 결제할 수 있습니다. 실제 결과는 최악의 경우에도 로드한 금액으로 제한된다는 것입니다: 루프 버그가 잔액보다 더 많이 사용할 수 없습니다. 각 호출 후 잔액은 X-Balance-USD 응답 헤더에 표시됩니다.

신규 사용자는 먼저 서비스를 사용해 볼 수 있습니다. 가입 후 API 키 페이지에서 한 번의 클릭으로 7일 동안 유효한 $0.50의 무료 체험 크레딧을 받을 수 있으며, 인원당 1회, 카드 불필요합니다.

속도 제한은 별도의 조절 장치입니다

백만 토큰당 가격이 동일한 두 API는 여전히 매우 다르게 느껴질 수 있습니다. 속도 제한은 분당 얼마나 많은 요청을 보낼 수 있는지 결정합니다. 제공업체는 일반적으로 계정 등급당 제한을 설정합니다. 당사 API에서는 전체 키가 8개의 동시 요청과 분당 300개의 요청을 허용하고, 체험 키는 분당 2개의 동시 요청과 60개의 요청을 허용합니다. 최대 본문 크기는 8MB입니다.

한도를 초과하면 HTTP 429 오류가 발생합니다. 분당 요청 수를 초과한 경우 오류 코드는 rate_limited이고, 동시에 처리 중인 요청이 너무 많으면 concurrency입니다. 일시적 과부하 시 API는 Retry-After: 5 헤더와 함께 429도 반환합니다. 사람들이 종종 간과하는 한 가지 사항: 스트리밍 요청은 스트림이 끝날 때까지 동시성 슬롯을 유지하므로, 토큰을 하나씩 읽는 느린 클라이언트는 요청 수보다 훨씬 빠르게 8개의 슬롯을 채울 수 있습니다.

제한은 가격 대신 처리량에 영향을 줍니다. 대량 배치 전송이 필요할 경우 계산은 간단합니다: 분당 300 요청의 속도로 10,000 요청을 처리하려면 각 요청이 동시에 8개 이내로 유지될 수 있을 정도로 빠르게 완료된다고 가정할 때 약 34분이 걸립니다.

이 API에 모델 적용하기

OpenAI 호환 부분은 요금제 모델을 이식 가능하게 만듭니다. 기본 URL과 키만 변경하면 모든 OpenAI SDK가 작동하므로 한 제공업체를 위해 작성한 비용 추적 코드를 일반적으로 재사용할 수 있습니다. 이 스크립트는 사용량을 읽고 당사 요금으로 호출 가격을 책정합니다:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.openaiapipricing.com/v1",
    api_key="YOUR_API_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a concise assistant."},
        {"role": "user", "content": "Explain what a token is in two sentences."},
    ],
)

u = resp.usage
input_cost = u.prompt_tokens * 0.15 / 1_000_000
output_cost = u.completion_tokens * 0.50 / 1_000_000
print(f"in={u.prompt_tokens} out={u.completion_tokens} total={input_cost + output_cost:.7f}")

위 설명에 따른 이 API의 특징은 다음과 같습니다: 단일 모델, 텍스트 전용, 100,000토큰 컨텍스트 창, 함수 호출, JSON 모드, 스트리밍 지원, 학습용 프롬프트 미사용. 이 모델은 합법적인 성인 사용자를 위해 콘텐츠 거부 없이 답변하도록 조정되었으며, 미성년자를 대상으로 한 성적인 콘텐츠에는 엄격한 제한이 있습니다. 이는 여러 벤더를 라우팅하는 것이 아니며, 어느 벤더의 공식 엔드포인트도 아닙니다. 설정 방법은 빠른 시작 가이드에서 확인하고, 전체 가격 목록은 가격 페이지에서 확인하세요. 다른 서비스와의 비교 분석은 ChatGPT API 비용 페이지를 참조하세요.

질문과 답변

OpenAI API 가격 정책은 평이한 용어로 무엇을 의미합니까?

토큰에 대해 지불합니다: 전송하는 토큰에는 하나의 요금, 모델이 반환하는 토큰에는 더 높은 요금이 적용됩니다. 요금은 모델에 따라 다르며, 청구 금액은 토큰 수에 백만 토큰당 가격을 곱한 것입니다.

입력 또는 출력이 더 비쌉니까?

출력입니다. 당사 API에서는 입력 토큰 1M당 $0.15에 비해 출력 토큰 1M당 $0.50이며, 약 3.3배 더 비쌉니다.

긴 채팅이 메시지당 비용이 더 비싼 이유는 무엇입니까?

API는 이전 턴을 기억하지 않으므로 각 요청에서 기록을 입력 토큰으로 다시 전송합니다. 기록이 길수록 각 턴에서 더 많은 입력에 대해 지불합니다.

속도 제한이 내가 지불하는 금액에 영향을 미치나요?

아니요. 분당 요청 수와 동시 요청 수를 제한합니다. 토큰당 가격은 동일하게 유지됩니다.

귀사의 API는 OpenAI의 API와 동일한가요?

아닙니다. OpenAI 요청 형식을 따르므로 기존 SDK가 작동하지만, 독립적인 공급자가 운영하는 서로 다른 오픈 웨이트 모델에서 구동됩니다.

키는 양식 하나만 작성하면 받을 수 있습니다

계정을 생성하고 키를 복사한 후 기본 URL을 변경하세요. 설정은 이것으로 끝입니다.