TR ▾
API anahtarı al
Sansürsüz LLM API fiyatlandırma kılavuzu

Token tabanlı API fiyatlandırması nasıl çalışır, açıkça açıklanır

OpenAI API fiyatlandırma modeli token başına ödemeye dayanır: gönderdiğiniz tokenlar ve modelin yazdığı tokenlar için iki farklı oranda faturalandırılırsınız. Bu sayfa her kısmı basit bir dille açıklar ve kendi OpenAI uyumlu API'mizde bu fikrin nasıl uygulandığını gösterir.

güncellendi

Küçük küplerin bir sayaç içine akması ve daha büyük küplerin dışarı akması; giriş ve çıkış token fiyatlandırmasını gösterir.
Anahtar noktalar
  • Giriş için bir oran ve çıkış için daha yüksek bir oran ile token başına ödeme yaparsınız.
  • Sohbet geçmişi her dönüşte yeniden gönderilir; bu nedenle uzun sohbetler, kısa olanlara göre mesaj başına daha pahalıya mal olur.
  • Hız limitleri istek gönderme hızınızı kısıtlar. Token başına fiyatı değiştirmezler.
  • API'miz, ön ödemeli krediden 1M token başına $0.15 ve $0.50 ücret alır ve herhangi bir satıcının ürününden ayrı bir üründür.

Model bir paragrafta

Barındırılan dil modeli API'leri genellikle kullanım başına satılır, lisans oturumu (seat) başına değil. Programınız metin gönderir; hizmet, kaç token girdiğini ve kaç token çıktığını sayar; fatura, bu sayıların milyon başına token fiyatlarıyla çarpımıdır. Giriş ve çıkış için ayrı fiyatlar vardır. Farklı modeller farklı fiyatlar taşır. Üzerine birkaç ek kural oturur: hız limitleri, bağlam penceresi ve ödeme yöntemi (ön ödemeli veya faturalı). İşte tüm fiyatlandırma modeli budur; bu sayfanın geri kalanı her parçayı detaylandırır.

Önce bir açıklama. İnsanlar bu ifadeyi arama kutusuna yazdıklarında genellikle OpenAI'nin kendi fiyat listesini kastederler. Biz OpenAI değiliz ve fiyatlarını burada vermiyoruz çünkü bunlar değişir ve kaynakta okumanız gerekir. Açıkça açıklayabileceğimiz şey, çoğu sağlayıcı tarafından paylaşılan yapı ve bunu çalıştırdığımız API'de nasıl çalıştığıdır: bağımsız bir sağlayıcı tarafından işletilen, barındırılan, OpenAI uyumlu, metin tabanlı bir API ve bir açık ağırlıklı model, uncensored.

Tokenlar birimdir

Bir token, modelin okuduğu veya yazdığı metin parçasıdır. Tam bir kısa kelime, uzun bir kelimenin parçası, bir sayı veya bir noktalama işareti olabilir. Normal İngilizce metinler için kabaca bir kural olarak, bir token yaklaşık dört karakter veya bir kelimenin dörtte üçüne denk gelir. Diğer diller, kod ve alışılmadık biçimlendirme, aynı görünür uzunluk için genellikle daha fazla token gerektirir; bu nedenle her kuralı bir tahmin olarak kabul edin ve gerçek sayıları API'den okuyun.

API'mizden gelen her yanıt, prompt_tokens ve completion_tokens içeren bir kullanım nesnesi içerir. Akışlı (streamed) yanıtlarda kullanım bilgisi en sonda iletilir. Bu iki sayı, faturalandırma esasınızdır. İstek sayısı veya bir çağrının ne kadar sürdüğü gibi başka hiçbir şey fiyata girmez.

Birim tokenlar olduğu için, aynı özellik nasıl oluşturulduğuna göre ucuz veya pahalı olabilir. Bir satırlık sınıflandırma istemi bin çağrı için bir santimin çok küçük bir kısmına mal olabilir. Her istekte 60 sayfalık bir belge yapıştıran bir istem, aynı sayıda çağrı yapılsa bile çok daha pahalıya mal olur.

Giriş ve çıkışın farklı fiyatları vardır

Giriş tokenları gönderdiğiniz her şeydir: sistem mesajı, sohbet geçmişi, kullanıcının en son mesajı, araç tanımları ve araç sonuçları. Çıkış tokenları modelin oluşturduğu her şeydir, yazdığı herhangi bir araç çağrısı dahil. Metin oluşturmak, okumaktan daha fazla işlem gerektirir, bu nedenle sağlayıcılar çıkışı daha yüksek fiyatlandırır. API'mizde oranlar şunlardır:

1M Token BaşınaToken başına
Girdi$0.15$0.00000015
Çıktı$0.50$0.0000005

Çıkış 0.50 / 0.15'tir veya token başına yaklaşık 3.3 kat daha pahalıdır. Bu oran tasarım kararlarını belirler. Uygulamanız 3.000 tokenlık bir istem gönderir ve 100 tokenlık bir etiket alırsa, giriş $0.00045 ve çıkış $0.00005'tir; bu nedenle istem maliyetin %90'ını oluşturur ve onu kısaltmak her şeyden daha önemlidir. Uygulamanız 200 tokenlık bir istemden 2.000 tokenlık hikayeler isterse, giriş $0.00003 ve çıkış $0.001 olur; bu nedenle çıkış maliyetin %97'sini oluşturur ve kilit nokta hikayenin uzunluğudur.

Bu sayıları kendiniz kontrol edin: 3.000 x 0.15 / 1.000.000 = 0.00045. 100 x 0.50 / 1.000.000 = 0.00005. 200 x 0.15 / 1.000.000 = 0.00003. 2.000 x 0.50 / 1.000.000 = 0.001.

Neden geçmiş zamanla birlikte sohbetlerin maliyeti artar

API durum bilgisi taşımaz. Model son isteğinizi hatırlamaz, bu nedenle bir sohbet uygulaması her yeni adımda önceki mesajları yeniden gönderir. Bu nedenle 10. adım için giriş, 1'den 9'a kadar olan adımları tekrar içerir ve her seferinde bu tokenlar için ödeme yaparsınız.

Her adımda toplamda 400 token ekleyen bir sohbet düşünün. 1. adım yaklaşık 400 token bağlam gönderir, 10. adım yaklaşık 4.000 ve 50. adım yaklaşık 20.000 gönderir. API'mizdeki modelin bağlam penceresi 100.000 tokendır (istem ve tamamlama birlikte); bu nedenle çok uzun bir oturum sonunda, maliyet önemli olsun ya da olmasın, kırpma işlemi gerekecektir. Yaygın çözümler şunlardır:

  • Sistem istemini ve son N adımı koruyun ve ortadaki kısımları atın.
  • Eski adımları kısa bir özetle birleştirin ve bunun yerine özet mesajı gönderin.
  • Uzun vadeli gerçekleri sohbette dışarıda saklayın ve yalnızca ilgili olanları ekleyin.

Somut bir sayı: her 1.000 istekle gönderilen 1.000 tokenlık bir sistem istemi 1.000.000 giriş tokenıdır, bu da $0.15'tir. Tek başına iyidir. Ancak her 100.000 istekle gönderilen 10.000 tokenlık bir karakter sayfası 1.000.000.000 giriş tokenıdır, yani $150'dir. Sabit ek yük hacimle çarpılır ve bu çarpım izlenmesi gereken şeydir.

Abonelik değil, ön ödemeli kredi

Sağlayıcılar, paranın nasıl hareket ettiğini farklı şekilde yönetir. Bazıları ay sonunda faturalandırır, bazıları ön ödemeli bakiyeden düşer ve bazıları ikisini aylık planlarla karıştırır. API'mizde durum basittir: kredi yüklersiniz, kullanım bakiyeyi düşürür ve hiçbir şey kendiliğinden yenilenmez. Kredi asla sona ermez. Başarısız veya reddedilen istekler için ücret alınmaz.

Yükleme işlemleri $20 ile $500 arasında herhangi bir tam tutardır; $50 ve üzeri için +%5, $100 ve üzeri için +%10 ve $200 ve üzeri için +%15 bonus uygulanır. Böylece $100 $110 kredi verir ve $200 $230 kredi verir. Kripto para (TRC20 üzerinde USDT, Base üzerinde USDC) ile ödeme yapabilirsiniz. Pratik sonuç olarak, en kötü durum yüklediğiniz tutarla sınırlıdır: sonsuz döngüye giren bir hata bakiyenizden daha fazlasını harcayamaz. Her çağrı sonrası kalan bakiye X-Balance-USD yanıt başlığında yer alır.

Yeni kullanıcılar hizmeti önce deneyebilir. Kayıttan sonra, API anahtarı sayfası üzerindeki tek bir tıklama 7 gün boyunca geçerli olan $0.50 deneme kredisi kazandırır, kişi başı bir, kart gerekmez.

Hız limitleri ayrı bir düğmedir

Milyon token başına aynı fiyata sahip iki API yine de çok farklı hissedebilir, çünkü hız limitleri dakikada ne kadar istek gönderebileceğinize karar verir. Sağlayıcılar genellikle hesap düzeyi başına limitler belirler. API'mizde tam bir anahtar 8 eşzamanlı istek ve dakika başına 300 istek izin verir ve deneme anahtarı 2 eşzamanlı ve dakika başına 60 izin verir. Maksimum gövde 8 MB'dir.

Bir limiti aştığınızda HTTP 429 alırsınız. Dakika başına istek sayısını aştığınızda hata kodu rate_limited, çok fazla istek uçuş halindeyken ise concurrency olur. Geçici aşırı yüklenme durumunda API ayrıca Retry-After: 5 başlığı ile 429 yanıtı da döndürür. İnsanları şaşırtan bir detay: akış yapan bir istek, akış bitene kadar eşzamanlılık slotunu tutar; bu nedenle tokenları tek tek okuyan yavaş istemciler, istek sayısının öngördüğünden daha hızlı olarak 8 slotu doldurabilir.

Limitler verimliliği değiştirir, fiyatı değil. Büyük bir toplu işlem göndermeniz gerekirse, aritmetik basittir: dakika başına 300 istekle, 10.000 istek yaklaşık 34 dakika sürer, her biri aynı anda 8 içinde kalmak için yeterince hızlı tamamlanırsa.

Bu API'ye modelin uygulanması

OpenAI uyumlu kısım, fiyatlandırma modelinin taşınabilir olmasını sağlar. Temel URL'yi ve anahtarı değiştirdikten sonra herhangi bir OpenAI SDK'sı çalışır, bu nedenle bir sağlayıcı için yazdığınız maliyet izleme kodu genellikle yeniden kullanılabilir. Bu betik kullanımı okur ve API'mizin oranlarında bir çağrıyı fiyatlandırır:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.openaiapipricing.com/v1",
    api_key="YOUR_API_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a concise assistant."},
        {"role": "user", "content": "Explain what a token is in two sentences."},
    ],
)

u = resp.usage
input_cost = u.prompt_tokens * 0.15 / 1_000_000
output_cost = u.completion_tokens * 0.50 / 1_000_000
print(f"in={u.prompt_tokens} out={u.completion_tokens} total={input_cost + output_cost:.7f}")

Yukarıdaki terimlerle bu API şudur: tek bir model, yalnızca metin, 100.000 tokenlık bağlam penceresi, araç çağırma, JSON modu ve akış desteği; istemler eğitim için kullanılmaz. Model, yasal yetişkin kullanımında içerik reddi olmadan yanıt verecek şekilde ayarlanmıştır ve reşit olmayanların yer aldığı cinsel içerik için kesin bir sınır vardır. Bu, tedarikçiler arasında bir yönlendirici değildir ve herhangi bir tedarikçinin resmi uç noktası değildir. Kurulum için detaylar hızlı başlangıç sayfasında, tam fiyat listesi ise fiyatlandırma sayfasında yer alır. Diğer hizmetlerle yapılan kapsamlı karşılaştırma için ChatGPT API maliyet sayfasına bakınız.

Sorular ve cevaplar

OpenAI API fiyatlandırma modeli basit terimlerle ne anlama gelir?

Tokenlar için ödeme yaparsınız: gönderdiğiniz tokenlar için bir oran ve modelin döndürdüğü tokenlar için daha yüksek bir oran vardır. Oranlar modele bağlıdır ve fatura, token sayılarının milyon başına fiyatlarla çarpımıdır.

Giriş mi yoksa çıkış mı daha pahalı?

Çıkış. API'mizde çıkış 1M token başına $0.50 iken, giriş 1M token başına $0.15'tir; bu yaklaşık 3,3 kat daha pahalıdır.

Uzun bir sohbet neden mesaj başına daha pahalıya mal olur?

API, önceki dönüşleri hatırlamaz; bu nedenle her istek, geçmişi giriş tokenları olarak yeniden gönderir. Geçmiş ne kadar uzun olursa, her dönüşte ödediğiniz giriş tokenı miktarı da o kadar artar.

Hız limitleri ne ödediğinizi değiştirir mi?

Hayır. Dakikadaki istekleri ve eşzamanlı istekleri sınırlarlar. Token başına fiyat aynı kalır.

API'niz OpenAI'ninkiyle aynı mı?

Hayır. Mevcut SDK'ların çalışması için OpenAI istek formatını takip eder ancak bağımsız bir sağlayıcı tarafından işletilen farklı bir açık ağırlıklı model üzerinde çalışır.

Anahtarınız tek bir formun uzağında

Bir hesap oluşturun, anahtarı kopyalayın ve temel URL'yi değiştirin. Kurulum bu kadar basit.