HI ▾
API कुंजी पाएँ
बिना सेंसर LLM API मूल गाइड

टोकन-आधारित API मूल्य निर्धारण कैसे काम करता है, सरल भाषा में समझाया गया

OpenAI API मूल्य निर्धारण मॉडल टोकन-प्रति-भुगतान है: आपसे अपने द्वारा भेजे गए टोकन और मॉडल द्वारा लिखे गए टोकन के लिए दो अलग-अलग दरों पर शुल्क लिया जाता है। यह पृष्ठ प्रत्येक भाग को सरल भाषा में समझाता है और दिखाता है कि हमारा अपना OpenAI-संगत API उसी विचार को कैसे लागू करता है।

अपडेट किया गया

मीटर में बहते छोटे घन और बाहर बहते बड़े घन, इनपुट और आउटपुट टोकन मूल्य निर्धारण की कल्पना करते हुए
मुख्य बिंदु
  • आप टोकन के लिए भुगतान करते हैं, इनपुट के लिए एक ही रेट और आउटपुट के लिए उच्च रेट होता है।
  • संवाद का इतिहास हर चरण पर फिर से भेजा जाता है, इसलिए लंबी चैट्स में संदेश प्रति खर्च छोटी चैट्स की तुलना में अधिक होता है।
  • रेट लिमिट यह सीमित करता है कि आप कितनी तेज़ी से अनुरोध भेज सकते हैं। वे प्रति टोकन कीमत नहीं बदलते।
  • हमारी API प्रीपेड क्रेडिट से प्रति 1M टोकन के लिए $0.15 और $0.50 चार्ज करती है और यह किसी भी विक्रेता के अलग उत्पाद है।

एक पैराग्राफ में मॉडल

होस्टेड लैंग्वेज मॉडल APIs आमतौर पर सिट के बजाय उपयोग के आधार पर बिकते हैं। आपका प्रोग्राम टेक्स्ट भेजता है, सेवा गिनती करती है कि कितने टोकन गए और कितने आए, और बिल उन गणनाओं का गुणनफल होता है जो प्रति मिलियन टोकन की कीमतों से गुणा किए जाते हैं। इनपुट और आउटपुट की अलग-अलग कीमतें होती हैं। अलग-अलग मॉडल्स की अलग-अलग कीमतें होती हैं। कुछ अतिरिक्त नियम ऊपर बैठते हैं: रेट लिमिट, कॉन्टेक्स्ट विंडो और आप कैसे भुगतान करते हैं (प्रीपेड या इनवॉइस)। यही पूरा प्राइसिंग मॉडल है, और इस पेज का बाकी हिस्सा हर हिस्से को समझाता है।

सबसे पहले एक स्पष्टीकरण। जब लोग इस वाक्यांश को सर्च बॉक्स में टाइप करते हैं, तो वे अक्सर OpenAI की अपनी प्राइस लिस्ट का मतलब लेते हैं। हम OpenAI नहीं हैं, और हम यहाँ उनकी कीमतें क्वोट नहीं करते, क्योंकि वे बदलती हैं और आपको स्रोत पर उन्हें पढ़ना चाहिए। हम जो सटीक रूप से समझा सकते हैं वह संरचना है, जो अधिकांश प्रदाताओं द्वारा साझा की जाती है, और यह हमारे द्वारा चलाए गए API पर कैसे काम करती है: एक होस्टेड, OpenAI-कम्पैटिबल, टेक्स्ट-ओनली API जिसमें एक ओपन-वेट मॉडल uncensored है, जो एक स्वतंत्र प्रदाता द्वारा संचालित है।

टोकन इकाई है

एक टोकन टेक्स्ट का एक हिस्सा है जिसे मॉडल पढ़ता या लिखता है। यह एक पूरा छोटा शब्द, एक लंबे शब्द का हिस्सा, एक संख्या या विराम चिह्न हो सकता है। साधारण अंग्रेजी लेखन के लिए एक अनुमानित नियम यह है कि एक टोकन लगभग चार कैरेक्टर या तीन चौथाई शब्द के बराबर होता है। अन्य भाषाएँ, कोड और असामान्य फॉर्मेटिंग आमतौर पर समान दृश्यमान लंबाई के लिए अधिक टोकन लेती हैं, इसलिए किसी भी अनुमानित नियम को एक अनुमान मानें और असली गणना API से पढ़ें।

हमारे API से हर प्रतिक्रिया में एक उपयोग ऑब्जेक्ट होता है जिसमें prompt_tokens और completion_tokens होते हैं। स्ट्रीम किए गए प्रतिक्रियाओं के लिए उपयोग अंत में आता है। ये दो संख्याएं ही वह हैं जिन पर आपका बिल बनता है। कुछ भी नहीं, जैसे अनुरोधों की संख्या या कॉल में लगा समय, कीमत में नहीं आता।

चूँकि इकाई टोकन है, न कि अक्षर या कॉल, एक ही फीचर सस्ता या महंगा हो सकता है यह इस बात पर निर्भर करता है कि आप इसे कैसे बनाते हैं। एक एक-लाइन क्लासिफिकेशन प्रॉम्प्ट के लिए हज़ार कॉल में एक सेंट का अंश लग सकता है। एक प्रॉम्प्ट जो हर अनुरोध में एक 60-पेज का दस्तावेज़ पेस्ट करता है, बहुत अधिक खर्च करता है, भले ही उसे उतनी ही बार बुलाया गया हो।

इनपुट और आउटपुट की अलग कीमतें हैं

इनपुट टोकन वह सब कुछ है जो आप भेजते हैं: सिस्टम प्रॉम्प्ट, संवाद का इतिहास, उपयोगकर्ता का नवीनतम संदेश, टूल परिभाषाएँ और टूल परिणाम। आउटपुट टोकन वह है जो मॉडल जनरेट करता है, जिसमें कोई भी टूल कॉल शामिल है। टेक्स्ट जनरेट करने में पढ़ने की तुलना में अधिक कंप्यूट लेता है, इसलिए प्रदाता आउटपुट को अधिक महंगा दाम रखते हैं। हमारी API पर रेट हैं:

प्रति 1M टोकनप्रति टोकन
इनपुट$0.15$0.00000015
आउटपुट$0.50$0.0000005

आउटपुट 0.50 / 0.15 है, या प्रति टोकन लगभग 3.3 गुना अधिक महंगा है। वह अनुपात डिज़ाइन निर्णयों को चलाता है। यदि आपका ऐप एक 3,000-टोकन प्रॉम्प्ट भेजता है और एक 100-टोकन लेबल प्राप्त करता है, तो इनपुट $0.00045 और आउटपुट $0.00005 है, इसलिए प्रॉम्प्ट लागत का 90 प्रतिशत है, और इसे छोटा करना सबसे महत्वपूर्ण है। यदि आपका ऐप एक 200-टोकन प्रॉम्प्ट से 2,000-टोकन कहानियाँ माँगता है, तो इनपुट $0.00003 और आउटपुट $0.001 है, इसलिए आउटपुट लागत का 97 प्रतिशत है, और वह कारक कहानी की लंबाई है।

अपने आप उन संख्याओं की जाँच करें: 3,000 x 0.15 / 1,000,000 = 0.00045. 100 x 0.50 / 1,000,000 = 0.00005. 200 x 0.15 / 1,000,000 = 0.00003. 2,000 x 0.50 / 1,000,000 = 0.001.

इतिहास समय के साथ चैट्स को अधिक महंगा क्यों बनाता है

API स्टेटलेस है। मॉडल आपका पिछला अनुरोध याद नहीं रखता, इसलिए एक चैट एप्लिकेशन हर नए अनुरोध के साथ पिछले संदेशों को फिर से भेजता है। इसलिए टर्न 10 का इनपुट टर्न 1 से 9 को फिर से शामिल करता है, और आप हर बार उन टोकन के लिए भुगतान करते हैं।

एक चैट लें जहाँ हर टर्न में कुल 400 टोकन जुड़ते हैं। टर्न 1 में लगभग 400 टोकन कॉन्टेक्स्ट भेजा जाता है, टर्न 10 में लगभग 4,000 और टर्न 50 में लगभग 20,000। हमारी API पर मॉडल का कॉन्टेक्स्ट विंडो 100,000 टोकन है, प्रॉम्प्ट और कंप्लीशन मिलकर, इसलिए एक बहुत लंबी सत्र में अंततः ट्रिमिंग की आवश्यकता होगी चाहे लागत मायने रखे या न। सामान्य समाधान हैं:

  • सिस्टम प्रॉम्प्ट और आखिरी N टर्न रखें, और बीच का हिस्सा छोड़ दें।
  • पुराने टर्न को एक छोटे नोट में सारांशित करें और उस नोट को भेजें।
  • लंबे समय के तथ्यों को चैट के बाहर स्टोर करें और केवल प्रासंगिक तथ्यों को ही डालें।

एक ठोस संख्या: 1,000-टोकन वाला सिस्टम प्रॉम्प्ट जो 1,000 अनुरोधों के साथ भेजा जाता है, वह 1,000,000 इनपुट टोकन है, जो $0.15 है। अकेले यह ठीक है। लेकिन 10,000-टोकन वाला कैरेक्टर शीट जो 100,000 अनुरोधों के साथ भेजा जाता है, वह 1,000,000,000 इनपुट टोकन है, या $150। स्थिर ओवरहेड वॉल्यूम से गुणा होता है, और वह गुणन ही वह चीज़ है जिस पर ध्यान देना है।

प्रीपेड क्रेडिट, सब्सक्रिप्शन नहीं

प्रदाताओं में पैसों के प्रवाह के तरीके अलग-अलग होते हैं। कुछ माह के अंत में बिल करते हैं, कुछ प्रीपेड बैलेंस से कटौती करते हैं, और कुछ मासिक योजनाओं के साथ दोनों को मिलाते हैं। हमारे API पर यह सरल है: आप क्रेडिट जोड़ते हैं, उपयोग इसे कम करता है, और कुछ स्वतः नवीनीकृत नहीं होता। क्रेडिट कभी समाप्त नहीं होता। विफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता।

टॉप-अप $20 से $500 तक कोई भी पूर्ण राशि होती है, जिसमें $50 से +5%, $100 से +10% और $200 से +15% बोनस मिलता है। इसलिए $100 पर $110 का क्रेडिट मिलता है, और $200 पर $230। आप क्रिप्टो (TRC20 पर USDT, Base पर USDC) से भुगतान कर सकते हैं। व्यावहारिक परिणाम यह है कि आपकी सबसे बुरी स्थिति आपके लोड की गई राशि से सीमित है: एक बग जो लूप में है, वह बैलेंस से अधिक खर्च नहीं कर सकता। प्रत्येक कॉल के बाद बैलेंस X-Balance-USD रिस्पॉन्स हेडर में होता है।

नए उपयोगकर्ता पहले सेवा का परीक्षण कर सकते हैं। साइन-अप करने के बाद, API कुंजी पेज पर एक क्लिक से 7 दिनों के लिए मान्य $0.50 का मुफ़्त ट्रायल क्रेडिट मिलता है, एक व्यक्ति के लिए एक बार, कार्ड की आवश्यकता नहीं है।

रेट लिमिट एक अलग डायल है

एक ही दाम प्रति मिलियन टोकन वाले दो API फिर भी बहुत अलग महसूस हो सकते हैं, क्योंकि रेट लिमिट यह तय करते हैं कि प्रति मिनट कितना भेजा जा सकता है। प्रदाता आमतौर पर प्रति खाता टियर के लिए सीमाएँ सेट करते हैं। हमारे API पर एक पूर्ण कुंजी 8 समानांतर अनुरोध और प्रति मिनट 300 अनुरोध की अनुमति देती है, और एक ट्रायल कुंजी 2 समानांतर और प्रति मिनट 60 की अनुमति देती है। अधिकतम बॉडी 8 MB है।

जब आप एक लिमिट से अधिक हो जाते हैं तो आपको HTTP 429 मिलता है। एरर कोड rate_limited होता है जब आप मिनट में अनुरोधों की सीमा से अधिक हो जाते हैं और concurrency होता है जब बहुत सारे अनुरोध फ्लाइट में होते हैं। अस्थायी ओवरलोड पर API 429 भी रिटर्न करता है एक Retry-After: 5 हेडर के साथ। एक विवरण जो लोगों को पकड़ता है: एक स्ट्रीमिंग अनुरोध अपनी कॉन्करेंसी स्लॉट को स्ट्रीम खत्म होने तक पकड़े रखता है, इसलिए धीमी क्लाइंट्स जो टोकन एक-एक करके पढ़ते हैं, वे अनुरोध गणना से तेज़ी से 8 स्लॉट्स भर सकते हैं।

सीमाएँ थ्रूपुट बदलती हैं, न कि कीमत। यदि आपको एक बड़ा बैच भेजना है, तो गणना सरल है: प्रति मिनट 300 अनुरोधों पर, 10,000 अनुरोधों में लगभग 34 मिनट लगते हैं, यह मानते हुए कि प्रत्येक इतनी तेज़ी से समाप्त होता है कि एक समय में 8 से अधिक न हों।

इस API पर मॉडल लागू करना

OpenAI-संगत भाग ही वह है जो मूल्य निर्धारण मॉडल को पोर्टेबल बनाता है। Base URL और कुंजी बदलने के बाद कोई भी OpenAI SDK काम करता है, इसलिए आपने किसी एक प्रदाता के लिए लिखे गए लागत ट्रैकिंग कोड को आमतौर पर पुन: उपयोग किया जा सकता है। यह स्क्रिप्ट उपयोग पढ़ती है और हमारी दरों पर कॉल की कीमत बताती है:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.openaiapipricing.com/v1",
    api_key="YOUR_API_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a concise assistant."},
        {"role": "user", "content": "Explain what a token is in two sentences."},
    ],
)

u = resp.usage
input_cost = u.prompt_tokens * 0.15 / 1_000_000
output_cost = u.completion_tokens * 0.50 / 1_000_000
print(f"in={u.prompt_tokens} out={u.completion_tokens} total={input_cost + output_cost:.7f}")

ऊपर दिए गए शब्दों में इस API का क्या मतलब है: एक मॉडल, केवल टेक्स्ट, 100,000-टोकन की कॉन्टेक्स्ट विंडो, फ़ंक्शन कॉलिंग, JSON मोड और स्ट्रीमिंग, और प्रॉम्प्ट जो ट्रेनिंग के लिए उपयोग नहीं किए जाते। मॉडल को कानूनी वयस्क उपयोग के लिए बिना सेंसर जवाब देने के लिए ट्यून किया गया है, और नाबालिगों से जुड़े यौन सामग्री पर एक कठोर सीमा है। यह वेंडर्स के बीच एक रूटर नहीं है और न ही किसी वेंडर का आधिकारिक एंडपॉइंट है। सेटअप के लिए विवरण क्विकस्टार्ट गाइड में हैं, और पूर्ण मूल्य सूची मूल्य निर्धारण पेज पर है। अन्य सेवाओं के खिलाफ एक कार्यशील तुलना के लिए, ChatGPT API लागत पेज देखें।

प्रश्न और उत्तर

साधारण शब्दों में OpenAI API प्राइसिंग मॉडल का क्या अर्थ है?

आप टोकन के लिए भुगतान करते हैं: आपके द्वारा भेजे गए टोकन के लिए एक दर, और मॉडल द्वारा लौटाए गए टोकन के लिए उच्च दर। दरें मॉडल पर निर्भर करती हैं, और बिल टोकन गणना को प्रति मिलियन कीमतों से गुणा करने पर आता है।

इनपुट या आउटपुट में से कौन सा महंगा है?

आउटपुट। हमारे API पर यह $0.50 प्रति 1M टोकन है, जबकि इनपुट के लिए $0.15 प्रति 1M, जो लगभग 3.3 गुना अधिक है।

एक लंबी चैट प्रति संदेश अधिक क्यों महंगी होती है?

API पिछले टर्न को याद नहीं रखता, इसलिए प्रत्येक अनुरोध इतिहास को इनपुट टोकन के रूप में फिर से भेजता है। इतिहास जितना लंबा होगा, प्रत्येक टर्न पर आपको उतने ही इनपुट के लिए भुगतान करना होगा।

क्या रेट लिमिट मेरी लागत बदलता है?

नहीं। वे प्रति मिनट अनुरोधों और समानांतर अनुरोधों को सीमित करते हैं। प्रति टोकन कीमत वही रहती है।

क्या आपकी API OpenAI के समान है?

नहीं। यह OpenAI अनुरूप प्रारूप का पालन करता है ताकि मौजूदा SDK काम करें, लेकिन यह एक स्वतंत्र प्रदाता द्वारा संचालित एक अलग ओपन-वेट मॉडल चलाता है।

आपकी कुंजी बस एक फॉर्म भरने की दूरी पर है

एक खाता बनाएँ, कुंजी कॉपी करें, base URL बदलें। सेटअप यही है।