วิธีคิดราคา API แบบโทเคน อธิบายแบบเข้าใจง่าย
โมเดลการคิดราคา API ของ OpenAI คือการจ่ายตามโทเคน: คุณจะถูกเรียกเก็บเงินสำหรับโทเคนที่คุณส่งและโทเคนที่โมเดลเขียนกลับ โดยคิดอัตราสองแบบที่แตกต่างกัน หน้านี้จะอธิบายแต่ละส่วนด้วยภาษาที่เข้าใจง่าย และแสดงวิธีที่ API ของเราซึ่งเข้ากันได้กับ OpenAI นำแนวคิดเดียวกันนี้ไปใช้
อัปเดต

- คุณจ่ายตามจำนวนโทเคน โดยมีอัตราเดียวสำหรับอินพุต และอัตราที่สูงกว่าสำหรับเอาต์พุต
- ประวัติการสนทนาจะถูกส่งใหม่ในทุกเทิร์น ดังนั้นการแชทที่ยาวนานจึงมีค่าใช้จ่ายต่อข้อความสูงกว่าการแชทสั้น
- ขีดจำกัดอัตราจำกัดความเร็วในการส่งคำขอของคุณ ไม่เปลี่ยนแปลงราคาต่อโทเคน
- API ของเราคิดเงิน $0.15 และ $0.50 ต่อ 1 ล้านโทเคนจากเครดิตแบบเติมเงินล่วงหน้า และเป็นผลิตภัณฑ์แยกต่างหากจากผู้จัดจำหน่ายรายใดก็ตาม
โมเดลในหนึ่งย่อหน้า
API โมเดลภาษาแบบโฮสต์มักขายตามการใช้งาน ไม่ใช่ตามจำนวนผู้ใช้ โปรแกรมของคุณส่งข้อความเข้าไป บริการจะนับจำนวนโทเคนที่ส่งเข้าและที่ส่งออก แล้วนำจำนวนนั้นคูณกับราคาต่อล้านโทเคน อินพุตและเอาต์พุตมีราคาแยกกัน โมเดลต่างกันมีราคาต่างกัน กฎเพิ่มเติมอีกเล็กน้อยคือ ขีดจำกัดอัตรา หน้าต่างบริบท และวิธีการชำระเงิน (เติมเงินล่วงหน้าหรือออกใบแจ้งหนี้) นี่คือโมเดลการคิดเงินทั้งหมด และส่วนที่เหลือของหน้านี้จะอธิบายแต่ละส่วน
ขอชี้แจงก่อน เมื่อผู้คนพิมพ์วลีนี้ลงในช่องค้นหา พวกเขามักหมายถึงรายการราคาของ OpenAI เอง เราไม่ใช่ OpenAI และเราไม่อ้างอิงราคาของพวกเขาที่นี่ เนื่องจากราคาเหล่านั้นเปลี่ยนแปลงและคุณควรอ่านจากแหล่งข้อมูลต้นฉบับ สิ่งที่เราสามารถอธิบายได้อย่างแม่นยำคือโครงสร้าง ซึ่งแบ่งปันโดยผู้ให้บริการส่วนใหญ่ และวิธีการทำงานบน API ที่เราดำเนินการ: API แบบโฮสต์ที่เข้ากันได้กับ OpenAI แบบข้อความล้วน มีโมเดลแบบเปิดน้ำหนักหนึ่งตัว คือ uncensored ดำเนินการโดยผู้ให้บริการอิสระ
โทเคนคือหน่วย
โทเคนคือส่วนของข้อความที่โมเดลอ่านหรือเขียน อาจเป็นคำสั้นๆ ทั้งคำ ส่วนหนึ่งของคำยาว ตัวเลข หรือเครื่องหมายวรรคตอน สำหรับข้อความภาษาอังกฤษทั่วไป กฎโดยประมาณคือหนึ่งโทเคนมีขนาดประมาณสี่ตัวอักษร หรือสามส่วนสี่ของคำ ภาษาอื่น โค้ด และการจัดรูปแบบที่ผิดปกติมักใช้โทเคนมากกว่าสำหรับความยาวที่มองเห็นเท่ากัน ดังนั้นให้ถือว่ากฎโดยประมาณเป็นเพียงการประมาณการ และอ่านจำนวนจริงจาก API โดยตรง
ทุกการตอบกลับจาก API ของเราจะมีวัตถุ usage ที่มี prompt_tokens และ completion_tokens สำหรับการตอบกลับแบบสตรีมมิง ข้อมูลการใช้งานจะมาถึงในที่สุด สองตัวเลขนี้เป็นสิ่งที่คุณถูกเรียกเก็บเงิน ไม่มีสิ่งอื่น เช่น จำนวนคำขอหรือเวลาที่ใช้ในการเรียก เข้ามาในราคา
เนื่องจากหน่วยคือโทเคน ไม่ใช่ตัวอักษรหรือการเรียกใช้ คุณลักษณะเดียวกันอาจมีราคาถูกหรือแพงขึ้นอยู่กับวิธีการสร้างของคุณ พรอมต์สำหรับการจำแนกประเภทหนึ่งบรรทัดอาจมีค่าใช้จ่ายเพียงเศษเสี้ยวของเซ็นต์สำหรับการเรียกหนึ่งพันครั้ง พรอมต์ที่วางเอกสาร 60 หน้าเข้าไปในทุกคำขอจะมีค่าใช้จ่ายสูงกว่ามาก แม้ว่าจะมีการเรียกจำนวนเท่ากันก็ตาม
อินพุตและเอาต์พุตมีราคาต่างกัน
โทเคนอินพุตคือทุกอย่างที่คุณส่ง: ข้อความระบบ ประวัติการสนทนา ข้อความล่าสุดของผู้ใช้ คำจำกัดความเครื่องมือ และผลลัพธ์เครื่องมือ โทเคนเอาต์พุตคือสิ่งที่โมเดลสร้าง รวมถึงการเรียกใช้เครื่องมือใดๆ ที่มันเขียน การสร้างข้อความใช้การประมวลผลมากกว่าการอ่าน ดังนั้นผู้ให้บริการจึงกำหนดราคาเอาต์พุตสูงกว่า ใน API ของเรา อัตราคือ:
| ต่อ 1M โทเคน | ต่อโทเคน | |
|---|---|---|
| อินพุต | $0.15 | $0.00000015 |
| เอาต์พุต | $0.50 | $0.0000005 |
เอาต์พุตคือ 0.50 / 0.15 หรือประมาณ 3.3 เท่าของราคาต่อโทเคน อัตราส่วนนี้ขับเคลื่อนการตัดสินใจในการออกแบบ หากแอปของคุณส่งพรอมต์ขนาด 3,000 โทเคนและได้รับป้ายกำกับขนาด 100 โทเคน อินพุตคือ $0.00045 และเอาต์พุตคือ $0.00005 ดังนั้นพรอมต์คิดเป็น 90 เปอร์เซ็นต์ของค่าใช้จ่าย และการลดขนาดพรอมต์จึงสำคัญกว่าสิ่งอื่นใด หากแอปของคุณขอเรื่องราวขนาด 2,000 โทเคนจากพรอมต์ขนาด 200 โทเคน อินพุตคือ $0.00003 และเอาต์พุตคือ $0.001 ดังนั้นเอาต์พุตคิดเป็น 97 เปอร์เซ็นต์ของค่าใช้จ่าย และจุดที่ต้องปรับคือความยาวของเรื่องราว
ตรวจสอบตัวเลขเหล่านี้ด้วยตนเอง: 3,000 x 0.15 / 1,000,000 = 0.00045. 100 x 0.50 / 1,000,000 = 0.00005. 200 x 0.15 / 1,000,000 = 0.00003. 2,000 x 0.50 / 1,000,000 = 0.001.
ทำไมประวัติการสนทนาจึงทำให้การแชทมีค่าใช้จ่ายมากขึ้นเมื่อเวลาผ่านไป
API เป็นแบบไร้สถานะ โมเดลไม่มีความจำเกี่ยวกับคำขอล่าสุดของคุณ ดังนั้นแอปพลิเคชันแชทจึงส่งข้อความก่อนหน้าซ้ำพร้อมกับข้อความใหม่ อินพุตสำหรับเทิร์นที่ 10 จึงประกอบด้วยเทิร์นที่ 1 ถึง 9 อีกครั้ง และคุณต้องจ่ายสำหรับโทเคนเหล่านั้นทุกครั้ง
ลองแชทที่แต่ละเทิร์นเพิ่มโทเคนรวม 400 โทเคน เทิร์นที่ 1 ส่งบริบทประมาณ 400 โทเคน เทิร์นที่ 10 ส่งประมาณ 4,000 โทเคน และเทิร์นที่ 50 ส่งประมาณ 20,000 โทเคน หน้าต่างบริบทของโมเดลใน API ของเราคือ 100,000 โทเคน รวมพรอมต์และโทเคนการตอบกลับ ดังนั้นเซสชันที่ยาวมากจะต้องถูกตัดทอนในที่สุด ไม่ว่าต้นทุนจะสำคัญหรือไม่ วิธีแก้ไขทั่วไปคือ:
- เก็บพรอมต์ระบบและเทิร์น N ล่าสุดไว้ และตัดส่วนกลางออก
- สรุปเทิร์นเก่าเป็นบันทึกสั้นๆ แล้วส่งบันทึกนั้นแทน
- เก็บข้อเท็จจริงระยะยาวไว้ภายนอกแชท และแทรกเฉพาะข้อเท็จจริงที่เกี่ยวข้องเท่านั้น
ตัวเลขที่เป็นรูปธรรม: พรอมต์ระบบขนาด 1,000 โทเคนที่ส่งพร้อมกับคำขอ 1,000 คำขอคือ 1,000,000 โทเคนอินพุต ซึ่งเท่ากับ $0.15 ซึ่งถือว่าดีในตัวเอง แต่แผ่นข้อมูลตัวละครขนาด 10,000 โทเคนที่ส่งพร้อมกับคำขอ 100,000 คำขอคือ 1,000,000,000 โทเคนอินพุต หรือ $150 ค่าใช้จ่ายคงที่คูณด้วยปริมาณ และการคูณนี้คือสิ่งที่ต้องจับตามอง
เครดิตแบบเติมเงินล่วงหน้า ไม่ใช่แบบสมาชิก
ผู้ให้บริการมีวิธีการจัดการเงินที่แตกต่างกัน บางรายเรียกเก็บเงินหลังจากสิ้นเดือน บางรายหักจากยอดเงินเติมเงิน และบางรายผสมทั้งสองแบบด้วยแผนรายเดือน สำหรับ API ของเราเรียบง่ายกว่า: คุณเติมเงิน การใช้งานจะตัดยอดออก และไม่มีอะไรต่ออายุอัตโนมัติ เครดิตไม่หมดอายุ คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน
การเติมเงินเป็นจำนวนเต็มตั้งแต่ $20 ถึง $500 พร้อมโบนัส +5% จาก $50, +10% จาก $100 และ +15% จาก $200 ดังนั้นการเติม $100 จะได้เครดิต $110 และการเติม $200 จะได้เครดิต $230 คุณสามารถชำระเงินด้วยคริปโต (USDT บน TRC20, USDC บน Base) ผลลัพธ์ในทางปฏิบัติคือกรณีเลวร้ายที่สุดของคุณจะถูกจำกัดด้วยจำนวนที่คุณเติม: บั๊กที่ทำให้เกิดลูปไม่สามารถใช้เงินเกินกว่ายอดคงเหลือ ยอดคงเหลือหลังจากแต่ละคำขอจะปรากฏในหัวข้อความ X-Balance-USD ของ response
ผู้ใช้ใหม่สามารถลองใช้บริการก่อนได้ หลังจากการ sign-up เพียงคลิกที่หน้า API key เพื่อรับเครดิตทดลองใช้ $0.50 ซึ่งมีอายุ 7 วัน จำกัดหนึ่งต่อบุคคล ไม่ต้องใช้บัตร
ขีดจำกัดอัตราคือตัวควบคุมแยก
API สองตัวที่มีราคาต่อโทเคนล้านตัวเท่ากันอาจให้ความรู้สึกที่แตกต่างกันมาก เพราะขีดจำกัดอัตราเป็นตัวกำหนดปริมาณที่คุณสามารถส่งผ่านได้ต่อนาที ผู้ให้บริการส่วนใหญ่กำหนดขีดจำกัดตามระดับบัญชี สำหรับ API ของเรา คีย์เต็มจำนวนอนุญาตให้ทำคำขอพร้อมกัน 8 คำขอและ 300 คำขอต่อนาที และคีย์ทดลองอนุญาตให้ทำคำขอพร้อมกัน 2 คำขอและ 60 คำขอต่อนาที ขนาด body สูงสุดคือ 8 MB
เมื่อคุณเกินขีดจำกัด คุณจะได้รับ HTTP 429 รหัสข้อผิดพลาดคือ rate_limited เมื่อคุณเกินจำนวนคำขอต่อนาที และ concurrency เมื่อมีคำขอที่กำลังดำเนินการมากเกินไป เมื่อมีการ overload ชั่วคราว API จะส่งกลับ 429 พร้อมหัวข้อความ Retry-After: 5 รายละเอียดหนึ่งที่มักทำให้ผู้ใช้ตกใจ: คำขอแบบ streaming จะครอบครองช่องคำขอพร้อมกันไว้จนกว่าสตรีมจะสิ้นสุด ดังนั้นไคลเอนต์ที่อ่านโทเคนทีละตัวอาจเติมเต็ม 8 ช่องได้เร็วกว่าจำนวนคำขอที่แสดง
ขีดจำกัดเปลี่ยนปริมาณงาน ไม่ใช่ราคา หากคุณต้องการส่ง batch ขนาดใหญ่ การคำนวณนั้นเรียบง่าย: ที่ 300 คำขอต่อนาที คำขอ 10,000 คำขอใช้เวลาประมาณ 34 นาที โดยสมมติว่าแต่ละคำขอเสร็จสิ้นเร็วพอที่จะคงจำนวน concurrent ไว้ที่ 8 คำขอ
การนำโมเดลไปใช้กับ API นี้
ส่วนที่เข้ากันได้กับ OpenAI คือสิ่งที่ทำให้โมเดลราคาสามารถพกพาได้ SDK ของ OpenAI ใดๆ จะใช้งานได้ทันทีที่คุณเปลี่ยน URL ฐานและคีย์ ดังนั้นโค้ดการติดตามต้นทุนที่คุณเขียนสำหรับผู้ให้บริการรายใดรายหนึ่งจึงสามารถนำกลับมาใช้ใหม่ได้โดยปกติ สคริปต์นี้อ่านการใช้งานและคำนวณราคาคำขอที่อัตราของเรา:
from openai import OpenAI
client = OpenAI(
base_url="https://api.openaiapipricing.com/v1",
api_key="YOUR_API_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain what a token is in two sentences."},
],
)
u = resp.usage
input_cost = u.prompt_tokens * 0.15 / 1_000_000
output_cost = u.completion_tokens * 0.50 / 1_000_000
print(f"in={u.prompt_tokens} out={u.completion_tokens} total={input_cost + output_cost:.7f}")
API นี้คืออะไรตามคำอธิบายข้างต้น: โมเดลเดียว รองรับเฉพาะข้อความ หน้าต่างบริบท 100,000 โทเคน การเรียกใช้ฟังก์ชัน โหมด JSON และสตรีมมิง พรอมต์ไม่ถูกนำไปใช้ฝึกโมเดล โมเดลได้รับการปรับแต่งให้ตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย และมีขีดจำกัดเข้มงวดสำหรับเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ API นี้ไม่ใช่ตัวกระจายการร้องขอข้ามผู้ให้บริการ และไม่ใช่เอนด์พอยต์ทางการของผู้ให้บริการรายใด รายละเอียดการตั้งค่าอยู่ใน หน้าเริ่มต้นใช้งานอย่างรวดเร็ว และรายการราคาเต็มอยู่ใน หน้าราคา สำหรับการเปรียบเทียบต้นทุนกับบริการอื่น ดูที่ หน้าต้นทุน API ChatGPT
คู่มือเพิ่มเติม
ถาม-ตอบ
โมเดลราคา API ของ OpenAI หมายถึงอะไรในภาษาทั่วไป?
คุณจ่ายสำหรับโทเคน: อัตราหนึ่งสำหรับโทเคนที่คุณส่ง และอัตราที่สูงกว่าสำหรับโทเคนที่โมเดลส่งกลับ อัตราขึ้นอยู่กับโมเดล และบิลคือจำนวนโทเคนคูณกับราคาต่อล้าน
อินพุตหรือเอาต์พุตมีราคาสูงกว่ากัน?
เอาต์พุต ใน API ของเราคิด $0.50 ต่อ 1M โทเคน เทียบกับ $0.15 ต่อ 1M โทเคนสำหรับอินพุต ซึ่งแพงกว่าประมาณ 3.3 เท่า
ทำไมแชทที่ยาวจึงมีค่าใช้จ่ายต่อข้อความสูงกว่า?
API ไม่จำการสนทนาก่อนหน้านี้ ดังนั้นแต่ละคำขอจะส่งประวัติกลับเป็นโทเคนอินพุต ยิ่งประวัติยาวขึ้น คุณก็ยิ่งต้องจ่ายสำหรับอินพุตมากขึ้นในแต่ละรอบ
ขีดจำกัดอัตราส่งผลต่อสิ่งที่ฉันจ่ายหรือไม่?
ไม่ ขีดจำกัดจำกัดจำนวนคำขอต่อนาทีและจำนวนคำขอพร้อมกัน ราคาต่อโทเคนยังคงเท่าเดิม
API ของคุณเหมือนกับของ OpenAI หรือไม่?
ไม่ API ของเราปฏิบัติตามรูปแบบคำขอของ OpenAI เพื่อให้ SDK ที่มีอยู่ใช้งานได้ แต่รันโมเดลแบบเปิดน้ำหนักที่แตกต่างกันซึ่งดำเนินการโดยผู้ให้บริการอิสระ
คีย์ของคุณอยู่ห่างแค่แบบฟอร์มเดียว
สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด