HI ▾
API कुंजी पाएँ
बिना सेंसर LLM API मूल्य निर्धारण गाइड

ChatGPT API लागत: यह कैसे काम करता है और विकल्प क्या हैं

ChatGPT API लागत संरचनाओं में महत्वपूर्ण बदलाव आए हैं, जिसमें इनपुट और आउटपुट टोकन अब अलग-अलग दाम पर हैं, जिससे बजट नियंत्रण के लिए कॉन्टेक्स्ट विंडो प्रबंधन महत्वपूर्ण हो गया है। ऐसे डेवलपर्स के लिए जो सामग्री फ़िल्टर के बिना कच्चे मॉडल आउटपुट चाहते हैं, बिना सेंसर ओपन-वेट विकल्प पारदर्शक, टोकन-आधारित मूल्य निर्धारण मॉडल प्रदान करते हैं जो अक्सर स्वामित्व वाले विकल्पों से सस्ता होता है जबकि मानक चैट पूर्णता इंटरफ़ेस बनाए रखता है।

ChatGPT API लागत: यह कैसे काम करता है और विकल्प क्या हैं

अपडेटेड

मुख्य बिंदु
  • इनपुट टोकन अब प्रमुख स्वामित्व वाले मॉडल में आउटपुट टोकन की तुलना में काफी सस्ते हैं, जिससे पिछली मूल्य असममिति उलट गई है।
  • बिना सेंसर ओपन-वेट मॉडल एक भविष्यवाणी योग्य, फ्लैट-रेट विकल्प प्रदान करते हैं जो सामग्री अस्वीकृति ओवरहेड को बायपास करता है।
  • स्ट्रीमिंग और फ़ंक्शन कॉलिंग स्वयं टोकन लागत नहीं बदलते हैं, लेकिन वे लेटेंसी और टोकन दक्षता को प्रभावित करते हैं।
  • कॉन्टेक्स्ट विंडो का आकार सीधे अधिकतम बैच करने योग्य अनुरोध आकार और प्रति इंटरैक्शन कुल लागत को निर्धारित करता है।

ChatGPT API लागत संरचनाओं को समझना

LLM API मूल्य निर्धारण का दृश्य सरल प्रति-टोकन दरों से विकसित होकर मॉडल क्षमता के आधार पर जटिल स्तरित संरचनाओं में बदल गया है। OpenAI जैसे स्वामित्व वाले प्रदाताओं ने अपने OpenAI API मूल्य निर्धारण मॉडल कई बार समायोजित किए हैं, अक्सर तेज़ निष्पादन के लिए सस्ते विकल्प और उच्च तर्क क्षमता के लिए प्रीमियम स्तर पेश किए हैं। मूल तंत्र समान रहता है: आप प्रसंस्कृत टोकन के लिए भुगतान करते हैं, लेकिन इनपुट और आउटपुट लागत के बीच अनुपात मॉडल पीढ़ियों के बीच काफी भिन्न होता है।

डेवलपर्स के लिए, इसका अर्थ है कि कुल टोकन गणना द्वारा लागत का अनुमान लगाना अब सटीक नहीं है। आपको संदर्भ पढ़ने (इनपुट) की लागत और प्रतिक्रियाएँ जनरेट करने (आउटपुट) की लागत में अंतर करना होगा। कई LLM API प्रदाता सेवाएँ अब गति के लिए अनुकूलित मॉडल के लिए कम दरें प्रदान करती हैं, जो कुछ सटीकता को त्याग सकती हैं लेकिन उच्च-वॉल्यूम, सरल कार्यों के लिए ChatGPT API लागत को काफी कम कर सकती हैं। इन स्तरों को समझना कुशल बजट बनाने का पहला कदम है।

इनपुट बनाम आउटपुट टोकन मूल्य निर्धारण

हाल के OpenAI API मूल्य निर्धारण अपडेट में सबसे महत्वपूर्ण बदलावों में से एक इनपुट और आउटपुट टोकन लागतों के बीच विचलन है। ऐतिहासिक रूप से, इनपुट और आउटपुट टोकन की कीमत समान थी। आज, इनपुट टोकन अक्सर आउटपुट टोकन की लागत के एक अंश की कीमत पर होते हैं। उदाहरण के लिए, एक मॉडल प्रति मिलियन इनपुट टोकन के लिए $0.50 और प्रति मिलियन आउटपुट टोकन के लिए $3.00 चार्ज कर सकता है। यह असममितता उन प्रॉम्प्ट्स को लाभ देती है जो संक्षिप्त हैं लेकिन प्रतिक्रियाएँ विस्तृत हैं।

जब एक बेस्ट अनसेंस्ड LLM विकल्प का मूल्यांकन किया जाता है, तो यदि आपके उपयोग मामले में भारी मात्रा में टेक्स्ट जनरेट करना शामिल है, तो यह अनुपात कम मायने रखता है। हालाँकि, उन मान्यवत चैट एप्लिकेशन जहाँ आउटपुट लंबाई नियंत्रित होती है, इनपुट लागत नगण्य हो जाती है। इसके विपरीत, अनसेंस्ड API विकल्प अक्सर एक अधिक संतुलित या यहाँ तक कि उल्टे अनुपात को बनाए रखते हैं, सामग्री के प्रकार से स्वतंत्र रूप से भविष्यसूचक लागत प्रदान करते हैं। यह भिन्न प्रतिक्रिया लंबाई वाले एप्लिकेशन के लिए महत्वपूर्ण है।

कॉन्टेक्स्ट विंडो का लागत पर प्रभाव

कॉन्टेक्स्ट विंडो अधिकतम टेक्स्ट की मात्रा को परिभाषित करता है जिसे मॉडल एकल अनुरोध में प्रोसेस कर सकता है। एक बड़ी कॉन्टेक्स्ट विंडो अधिक व्यापक निर्देशों और इतिहास की अनुमति देती है लेकिन इनपुट टोकन गणना बढ़ाती है। यदि आप 100k टोकन प्रॉम्प्ट को 128k कॉन्टेक्स्ट विंडो वाले मॉडल को भेज रहे हैं, तो आप उन 100k टोकन के लिए भुगतान करते हैं, चाहे मॉडल उन्हें सभी कुशलता से उपयोग करे या नहीं।

LLM API मूल्य निर्धारण टोकन गणना के साथ रैखिक रूप से बढ़ता है, इसलिए कॉन्टेक्स्ट विंडो उपयोग का प्रबंधन एक प्रत्यक्ष लागत नियंत्रण तंत्र है। डेवलपर्स अक्सर इतिहास को ट्रंक करते हैं या पिछली बारी-बारी की सारांश बनाते हैं ताकि इनपुट टोकन कम रख सकें। कुछ अनसेंस्ड मॉडल एक समान दर पर विशाल कॉन्टेक्स्ट विंडो (उदाहरण के लिए, 100k या उससे अधिक) प्रदान करते हैं, जिससे व्यापक दस्तावेज़ प्रसंस्करण की अनुमति मिलती है बिना कुछ प्रीमियम स्वामित्व वाले मॉडल में देखी गई समानुपातिक इनपुट लागत वृद्धि के दंड के। यह ओपन-वेट विकल्पों के साथ बड़े-संदर्भ कार्यों को अधिक आर्थिक बनाता है।

स्ट्रीमिंग बनाम नॉन-स्ट्रीमिंग लागत

सर्वर-सेंट इवेंट्स (SSE) के माध्यम से स्ट्रीमिंग प्रतिक्रियाएँ मूल टोकन मूल्य निर्धारण को नहीं बदलतीं। चाहे आप प्रतिक्रिया को स्ट्रीम करें या पूर्ण पूर्णता का प्रतीक्षा करें, मॉडल समान टोकन प्रसंस्कृत करता है और समान आउटपुट जनरेट करता है। लागत समान है। हालाँकि, स्ट्रीमिंग उपयोगकर्ता अनुभव और अनुभव की गई विलंबता को प्रभावित करती है।

गैर-स्ट्रीमिंग अनुरोध कनेक्शन को पूर्ण प्रतिक्रिया तैयार होने तक खोले रखते हैं, जिससे लंबे आउटपुट के लिए उच्च टाइमआउट जोखिम हो सकता है। स्ट्रीमिंग आंशिक परिणामों की तत्काल प्रदर्शन की अनुमति देती है। लागत के दृष्टिकोण से, चयन केवल UX के बारे में है। कुछ प्रदाता स्ट्रीमिंग बनाम गैर-स्ट्रीमिंग के लिए अलग से चार्ज करते हैं, लेकिन अधिकांश मान्यवत चैट कंप्लीशंस API कार्यान्वयन, जिसमें वह भी शामिल है जिसे हम होस्ट करते हैं, टोकन बिलिंग के संदर्भ में उन्हें समान मानते हैं। हमेशा प्रदाता की विशिष्ट दस्तावेज़ीकरण में इसकी पुष्टि करें।

फ़ंक्शन कॉलिंग ओवरहेड

फ़ंक्शन कॉलिंग (फ़ंक्शन कॉलिंग) बातचीत में अतिरिक्त टोकन पेश करता है। जब एक मॉडल फ़ंक्शन कॉल करने का निर्णय लेता है, तो यह फ़ंक्शन और उसके तर्कों का वर्णन करने वाला एक JSON संरचना आउटपुट करता है। ये टोकन आउटपुट टोकन के रूप में गिने जाते हैं। आगे, सिस्टम को प्रॉम्प्ट में फ़ंक्शन परिभाषाएँ शामिल करनी होती हैं, जो इनपुट टोकन के रूप में गिने जाते हैं।

यह एक द्वैत लागत वृद्धि बनाता है: टूल स्कीमा के लिए अधिक इनपुट टोकन और फ़ंक्शन कॉल के लिए अधिक आउटपुट टोकन। कई टूल्स वाले जटिल एजेंट्स के लिए, यह ओवरहेड महत्वपूर्ण हो सकता है। एक बेस्ट अनसेंस्ड LLM की तुलना एक स्वामित्व वाले मॉडल से करते समय, यह विचार करें कि क्या अनसेंस्ड मॉडल का टूल-कॉलिंग सटीकता टोकन ओवरहेड को औचित्य प्रदान करता है। असंगत टूल कॉल रिट्राइज का कारण बन सकते हैं, जिससे लागत गुणा हो जाती है। स्वामित्व वाले मॉडल अक्सर अधिक परिपक्व टूल-कॉलिंग इकोसिस्टम प्रदान करते हैं, लेकिन उच्च मूल्य बिंदु पर।

तुलना: ChatGPT बनाम बिना सेंसर मॉडल

GPT-4o और Claude जैसे स्वामित्व वाले मॉडल उच्च तर्क क्षमता प्रदान करते हैं लेकिन कठोर सामग्री फिल्टर और उच्च लागत के साथ आते हैं। इसके विपरीत, अनसेंस्ड मॉडल विवादास्पद, वयस्क या विशेष विषयों पर बिना अस्वीकृति के उत्तर देने के लिए ट्यून्ड होते हैं, जो रचनात्मक लेखन, रोलप्ले या शोध के लिए मूल्यवान है। इन अनसेंस्ड विकल्पों के लिए OpenAI API मूल्य निर्धारण अक्सर सरल होता है: प्रति टोकन एक समान दर, तर्क या प्रीमियम सुविधाओं के लिए कोई छिपी हुई फीस नहीं।

उदाहरण के लिए, हमारा होस्टेड API एक सीधा मूल्य निर्धारण मॉडल प्रदान करता है: प्रति मिलियन इनपुट टोकन $0.15 और प्रति मिलियन आउटपुट टोकन $0.50। यह कई मध्य-स्तरीय स्वामित्व वाले मॉडल के साथ प्रतिस्पर्धी है। मुख्य अंतर केवल कीमत नहीं, व्यवहार है। बिना सेंसर मॉडल कानूनी वयस्क सामग्री को अस्वीकार नहीं करते हैं, जो आपकी उपयोग मामले के निर्भर करता है एक सुविधा या बग हो सकता है। यदि आपको मॉडरेशन फ़िल्टर के बिना कच्चा आउटपुट चाहिए, तो बिना सेंसर APIs एक सीधा, लागत प्रभावी मार्ग प्रदान करते हैं।

उत्पादन के लिए टोकन उपयोग अनुकूलन

LLM API मूल्य निर्धारण खर्चों को कम करने के लिए, डेवलपर्स को टोकन-कुशल प्रॉम्प्ट इंजीनियरिंग लागू करनी चाहिए। इसमें व्यवहार परिभाषित करने के लिए सिस्टम प्रॉम्प्ट का उपयोग करना, हर उपयोगकर्ता संदेश में निर्देशों को दोहराने से बचना, अप्रासंगिक इतिहास को ट्रंक करना और लंबे दस्तावेज़ों के लिए संपीड़न तकनीकों का उपयोग करना शामिल है। इसके अतिरिक्त, सही मॉडल स्तर चुना जाना महत्वपूर्ण है। यदि उच्च तर्क की आवश्यकता नहीं है, तो उपलब्ध सबसे सस्ते मॉडल का उपयोग करें।

एक अन्य अनुकूलन संभव होने पर अनुरोधों को बैच करना है, हालांकि यह API की समानांतर अनुरोध सीमाओं पर निर्भर करता है। हमारे API के लिए, प्रत्येक अनुरोध स्वतंत्र रूप से संसाधित किया जाता है, इसलिए बैचिंग एप्लिकेशन स्तर पर की जाती है। प्रति अनुरोध औसत टोकन संख्या को कम करके, आप प्रत्यक्ष रूप से प्रत्येक उपयोगकर्ता इंटरैक्शन के लिए अपनी लागत कम करते हैं। एंडपॉइंट के अनुसार टोकन उपयोग के नियमित ऑडिट अक्षमताओं को उजागर कर सकते हैं और आगे के अनुकूलन के लिए मार्गदर्शन कर सकते हैं।

रेट लिमिट और कन्करेंसी

रेट लिमिट परिभाषित करता है कि आप प्रति मिनट कितने अनुरोध भेज सकते हैं। स्वामित्व वाले मॉडल अक्सर कठोर रेट लिमिट होते हैं जो उच्च-ट्रैफिक एप्लिकेशन को थ्रॉटल कर सकते हैं, जिससे अनुरोध कतार में लगने पर विलंबता बढ़ती है। LLM API मूल्य निर्धारण थ्रॉटलिंग के कारण प्रतिक्रियाओं की प्रतीक्षा करने की लागत को हमेशा नहीं दर्शाता है। उच्च कन्करेंसी आवश्यकताओं के लिए बेहतर रेट लिमिट वाले उच्च स्तर के प्लान खरीदने की आवश्यकता हो सकती है।

हमारी API प्रति कुंजी प्रति मिनट 300 अनुरोधों का समर्थन करती है, जो अधिकांश मध्यम-स्तर के एप्लिकेशन के लिए पर्याप्त है। यदि आप इस सीमा से अधिक हो जाते हैं, तो अनुरोध 429 त्रुटि के साथ अस्वीकार कर दिए जाएंगे। यह एक पारदर्सी सीमा है जो भविष्यसूचक स्केलिंग की अनुमति देती है। उन कुछ प्रदाताओं के विपरीत जो रेट लिमिट को छिपाते हैं या बर्स्ट क्षमता के लिए अतिरिक्त शुल्क लेते हैं, हमारा मॉडल बेस पे-एज़-यू-गो संरचना में उदार सीमाएँ शामिल करता है। यह सुनिश्चित करता है कि आपके ChatGPT API लागत अनुमान शीर्ष उपयोग के दौरान भी सटीक रहें।

प्रश्न और उत्तर

क्या स्ट्रीमिंग टोकन लागत को बदलती है?

नहीं, स्ट्रीमिंग टोकन लागत नहीं बदलती है। चाहे आप प्रतिक्रिया स्ट्रीम के रूप में प्राप्त करें या एकल ब्लॉक के रूप में, मॉडल समान संख्या में टोकन प्रोसेस और जनरेट करता है। दोनों विधियों के लिए लागत समान है।

कॉन्टेक्स्ट विंडो का आकार मूल्य निर्धारण को कैसे प्रभावित करता है?

कॉन्टेक्स्ट विंडो का आकार अधिकतम इनपुट टोकन निर्धारित करता है जिन्हें आप भेज सकते हैं। बड़ी कॉन्टेक्स्ट विंडो अधिक इनपुट डेटा की अनुमति देती है, जिससे इनपुट टोकन गणना बढ़ती है और इस प्रकार लागत बढ़ती है। हालांकि, टोकन की कीमत विंडो के आकार के बावजूद स्थिर रहती है।

फ़ंक्शन कॉलिंग के लिए कोई छिपी हुई फीस है?

फ़ंक्शन कॉलिंग अतिरिक्त इनपुट टोकन (फ़ंक्शन परिभाषाओं के लिए) और आउटपुट टोकन (फ़ंक्शन कॉल JSON के लिए) के रूप में ओवरहेड जोड़ती है। कोई अलग शुल्क नहीं है, लेकिन टोकन गणना बढ़ जाती है, जिससे कुल लागत बढ़ जाती है।

बिना सेंसर API के लिए रेट लिमिट क्या है?

रेट लिमिट प्रति API कुंजी प्रति मिनट 300 अनुरोध है। यह सर्वर द्वारा लागू की गई एक कठोर सीमा है। यदि आप इस सीमा को पार कर लेते हैं, तो अनुरोध 429 स्थिति कोड के साथ अस्वीकार कर दिए जाएंगे जब तक कि रेट रीसेट नहीं हो जाता।

आपकी कुंजी बस एक फ़ॉर्म दूर है

एक खाता बनाएं, कुंजी कॉपी करें, बेस URL बदलें। यही सेटअप है।