PL ▾
Pobierz klucz API
Przewodnik po cenach API LLM bez cenzury

Jak działa opłacanie API za tokeny, wyjaśnione prosto

Model cenowy API OpenAI to model pay-per-token: rozliczasz się za tokeny, które wysyłasz, i za tokeny, które model zwraca, po dwóch różnych stawkach. Na tej stronie wyjaśniamy każdy element prostym językiem i pokazujemy, jak nasze własne API kompatybilne z OpenAI stosuje ten sam pomysł.

Zaktualizowano

Małe sześciany wpływające do licznika i większe sześciany wypływające, obrazujące opłacanie tokenów input i output
Kluczowe punkty
  • Płacisz za token, z jedną stawką za dane wejściowe i wyższą za dane wyjściowe.
  • Historia rozmowy jest ponownie wysyłana przy każdej turze, więc długie czaty kosztują więcej na wiadomość niż krótkie.
  • Limity zapytań ograniczają szybkość wysyłania zapytań. Nie zmieniają one ceny za token.
  • Nasz API pobiera $0,15 i $0,50 za 1M tokenów z przedpłaconego kredytu i jest oddzielnym produktem od produktu dowolnego dostawcy.

Model w jednym akapicie

API modeli językowych są zwykle sprzedawane według zużycia, a nie za miejsce. Twój program wysyła tekst, usługa liczy, ile tokenów wpłynęło i ile wypłynęło, a rachunek to te liczby pomnożone przez ceny za milion tokenów. Dane wejściowe i wyjściowe mają oddzielne ceny. Różne modele mają różne ceny. Dodatkowe zasady to: limity zapytań, okno kontekstu i sposób płatności (przedpłacony lub faktura). To cały model cenowy, a reszta tej strony wyjaśnia każdy element.

Najpierw wyjaśnienie. Kiedy ludzie wpisują to sformułowanie w pole wyszukiwania, często mają na myśli własną listę cen OpenAI. Nie jesteśmy OpenAI i nie cytujemy ich cen tutaj, ponieważ się one zmieniają i powinieneś je przeczytać w źródle. To, co możemy wyjaśnić dokładnie, to struktura, którą dzieli większość dostawców, i to, jak działa ona w API, które prowadzimy: hostowane, kompatybilne z OpenAI, tekstowe API z jednym modelem o otwartych wagach, uncensored, prowadzone przez niezależnego dostawcę.

Tokeny są jednostką

Token to fragment tekstu, który model czyta lub pisze. Może to być całe krótkie słowo, część długiego słowa, liczba lub znak interpunkcyjny. Dla zwykłej angielskiej prozy przybliżona zasada jest taka, że jeden token to około cztery znaki lub trzy czwarte słowa. Inne języki, kod i nietypowe formatowanie zwykle wymagają więcej tokenów dla tej samej widocznej długości, więc traktuj każdą zasadę jako szacunkową i czytaj rzeczywiste liczby z API.

Każda odpowiedź z naszego API zawiera obiekt użycia z prompt_tokens i completion_tokens. Dla odpowiedzi strumieniowych użycie pojawia się na końcu. Te dwie liczby są podstawą rozliczeń. Nic innego, takiego jak liczba zapytań lub czas trwania połączenia, nie wchodzi w cenę.

Ponieważ jednostką są tokeny, a nie znaki lub zapytania, ta sama funkcja może być tania lub droga w zależności od tego, jak ją zbudujesz. Prompt klasyfikacji w jednej linii może kosztować ułamek centa za tysiąc zapytań. Prompt, który wkleja dokument 60-stronicowy do każdego zapytania, kosztuje znacznie więcej, nawet jeśli jest wywoływany tę samą liczbę razy.

Input i output mają różne ceny

Tokeny wejściowe to wszystko, co wysyłasz: wiadomość systemowa, historia rozmowy, najnowsza wiadomość użytkownika, definicje narzędzi i wyniki narzędzi. Tokeny wyjściowe to to, co generuje model, w tym każde wywołanie narzędzia, które pisze. Generowanie tekstu wymaga więcej obliczeń niż jego czytanie, więc dostawcy cenią dane wyjściowe wyżej. W naszym API stawki są:

Za 1 mln tokenówZa token
Wejście$0.15$0.00000015
Wyjście$0.50$0.0000005

Output jest 0,50 / 0,15, czyli około 3,3 razy droższy za token. Ten stosunek napędza decyzje projektowe. Jeśli Twoja aplikacja wysyła prompt 3000-tokenowy i otrzymuje etykietę 100-tokenową, input kosztuje $0,00045, a output $0,00005, więc prompt stanowi 90 procent kosztu, a jego skrócenie ma większe znaczenie niż wszystko inne. Jeśli Twoja aplikacja prosi o historie 2000-tokenowe z promptu 200-tokenowego, input kosztuje $0,00003, a output $0,001, więc output stanowi 97 procent kosztu, a dźwignią jest długość historii.

Sprawdź te liczby samodzielnie: 3000 x 0,15 / 1000000 = 0,00045. 100 x 0,50 / 1000000 = 0,00005. 200 x 0,15 / 1000000 = 0,00003. 2000 x 0,50 / 1000000 = 0,001.

Dlaczego historia sprawia, że czaty kosztują więcej z czasem

API jest bezstanowe. Model nie pamięta Twojego ostatniego zapytania, więc aplikacja czatu wysyła ponownie wcześniejsze wiadomości z każdym nowym. Wejście dla tury 10 zawiera więc ponownie tury 1 przez 9, i płacisz za te tokeny za każdym razem.

Weźmy czat, w którym każda tura dodaje łącznie 400 tokenów. Tura 1 wysyła około 400 tokenów kontekstu, tura 10 około 4 000, a tura 50 około 20 000. Okno kontekstu modelu w naszym API to 100 000 tokenów, prompt i uzupełnienie łącznie, więc bardzo długa sesja w końcu będzie musiała zostać przycięta, niezależnie od tego, czy liczy się koszt. Typowe poprawki to:

  • Zachowaj prompt systemowy i ostatnie N tur, a usuń środek.
  • Podsumuj poprzednie tury w krótką notatkę i wyślij tę notatkę zamiast nich.
  • Przechowuj długoterminowe fakty poza czatem i wstawiaj tylko te odpowiednie.

Konkretna liczba: prompt systemowy 1 000 tokenów wysyłany z każdym z 1 000 zapytań to 1 000 000 tokenów wejściowych, co daje $0,15. Samo w sobie dobrze. Ale karta postaci 10 000 tokenów wysyłana z każdym z 100 000 zapytań to 1 000 000 000 tokenów wejściowych, czyli $150. Stałe narzuty mnożą się przez wolumen, a to mnożenie jest tym, na co należy zwrócić uwagę.

Przedpłacony kredyt, a nie subskrypcja

Dostawcy różnią się tym, jak przemieszcza się pieniądz. Niektórzy rozliczają Cię po zakończeniu miesiąca, inni pobierają z salda przedpłaconego, a inni łączą oba sposoby z miesięcznymi planami. W naszym API jest prosto: dodajesz kredyt, zużycie go obniża, a nic nie odnawia się samo. Kredyt nigdy nie wygasa. Nieudane lub odrzucone zapytania nie są rozliczane.

Doładowania to dowolna kwota całkowita od $20 do $500, z bonusem +5% od $50, +10% od $100 i +15% od $200. Czyli $100 daje $110 kredytu, a $200 daje $230. Możesz zapłacić krypto (USDT na TRC20, USDC na Base). Praktycznym skutkiem jest to, że Twój najgorszy przypadek jest ograniczony do załadowanej kwoty: błąd, który tworzy pętlę, nie może wydać więcej niż stan konta. Stan po każdym wywołaniu znajduje się w nagłówku odpowiedzi X-Balance-USD.

Nowi użytkownicy mogą najpierw wypróbować usługę. Po rejestracji jedno kliknięcie na stronie klucza API przyznaje $0,50 kredytu próbnego, ważnego przez 7 dni, jeden na osobę, bez karty.

Limity zapytań to osobny regulator

Dwa API o tej samej cenie za milion tokenów mogą nadal bardzo się różnić, ponieważ limity przepustowości decydują, ile możesz przetworzyć na minutę. Dostawcy zwykle ustawiają limity na poziomie poziomu konta. W naszym API pełny klucz pozwala na 8 równoległych żądań i 300 żądań na minutę, a klucz próbny pozwala na 2 równoległe i 60 na minutę. Maksymalna treść żądania to 8 MB.

Gdy przekroczysz limit, otrzymasz HTTP 429. Kod błędu to rate_limited, gdy przekroczyłeś liczbę zapytań na minutę, oraz concurrency, gdy zbyt wiele zapytań było w locie. Przy tymczasowym przeciążeniu API zwraca również 429 z nagłówkiem Retry-After: 5. Jedna rzecz, która wpada w oko: strumieniowane zapytanie zajmuje slot współbieżności do końca strumienia, więc wolni klienci odczytujący tokeny po jednym mogą szybciej zapełnić 8 slotów niż sugeruje to liczba zapytań.

Limity zmieniają przepustowość, nie cenę. Jeśli musisz wysłać dużą partię, arytmetyka jest prosta: przy 300 zapytaniach na minutę 10 000 zapytań zajmie około 34 minut, zakładając, że każde zakończy się wystarczająco szybko, aby pozostać w limicie 8 na raz.

Zastosowanie modelu do tego API

Część kompatybilna z OpenAI to to, co sprawia, że model cenowy jest przenośny. Każde SDK OpenAI zadziała po zmianie adresu bazowego i klucza, więc kod śledzenia kosztów, który napisałeś dla jednego dostawcy, może być zwykle ponownie użyty. Ten skrypt odczytuje zużycie i wycenia połączenie po naszych stawkach:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.openaiapipricing.com/v1",
    api_key="YOUR_API_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a concise assistant."},
        {"role": "user", "content": "Explain what a token is in two sentences."},
    ],
)

u = resp.usage
input_cost = u.prompt_tokens * 0.15 / 1_000_000
output_cost = u.completion_tokens * 0.50 / 1_000_000
print(f"in={u.prompt_tokens} out={u.completion_tokens} total={input_cost + output_cost:.7f}")

Czym jest to API, zgodnie z powyższym: jeden model, tylko tekst, okno kontekstu 100 000 tokenów, wywoływanie narzędzi, tryb JSON i strumieniowanie oraz prompty, które nie są używane do trenowania. Model jest dostrojony do odpowiadania bez odrzucania treści dla prawnego użytku dorosłych, a w przypadku treści seksualnych z udziałem nieletnich obowiązuje ścisły limit. Nie jest to router między dostawcami ani oficjalny endpoint żadnego z nich. Szczegóły konfiguracji znajdziesz w instrukcji szybkiego startu, a pełna lista cen na stronie z cenami. Porównanie kosztów z innymi usługami znajdziesz na stronie kosztów API ChatGPT.

Pytania i odpowiedzi

Co oznacza model cenowy API OpenAI w prostych słowach?

Płacisz za tokeny: jedną stawkę za tokeny, które wysyłasz, i wyższą za tokeny zwracane przez model. Stawki zależą od modelu, a rachunek to iloczyn liczby tokenów i cen za milion.

Czy dane wejściowe, czy wyjściowe są droższe?

Output. W naszym API kosztuje $0.50 za 1M tokenów, wobec $0.15 za 1M dla inputu, czyli około 3,3 razy tyle.

Dlaczego długi czat kosztuje więcej na wiadomość?

API nie pamięta poprzednich tur, więc każde żądanie ponownie wysyła historię jako tokeny wejściowe. Im dłuższa historia, tym więcej płacisz za dane wejściowe przy każdej turze.

Czy limity zapytań zmieniają to, co płacisz?

Nie. Ograniczają liczbę zapytań na minutę i zapytań współbieżnych. Cena za token pozostaje taka sama.

Czy Twoje API jest takie samo jak OpenAI?

Nie. Korzysta z formatu żądań OpenAI, dzięki czemu istniejące SDK działają, ale działa na nim inny model o otwartych wagach obsługiwany przez niezależnego dostawcę.

Twój klucz jest o jedno kliknięcie dalej

Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.