Cara Kerja Harga API Berbasis Token, Dijelaskan dengan Mudah
Model harga API OpenAI adalah bayar per token: Anda ditagih untuk token yang Anda kirim dan token yang ditulis kembali oleh model, dengan dua tarif berbeda. Halaman ini menjelaskan setiap bagian dengan bahasa yang jelas dan menunjukkan bagaimana API kompatibel OpenAI kami sendiri menerapkan ide yang sama.
Diperbarui

- Anda membayar per token, dengan satu tarif untuk input dan tarif lebih tinggi untuk output.
- Riwayat percakapan dikirim ulang setiap putaran, sehingga percakapan panjang lebih mahal per pesannya dibandingkan yang pendek.
- Batas laju membatasi seberapa cepat Anda dapat mengirim permintaan. Batas ini tidak mengubah harga per token.
- API kami membebankan $0.15 dan $0.50 per 1M token dari saldo prabayar dan merupakan produk terpisah dari vendor mana pun.
Model dalam satu paragraf
API model bahasa yang dihosting biasanya dijual berdasarkan penggunaan, bukan per lisensi pengguna. Program Anda mengirim teks, layanan menghitung berapa banyak token yang masuk dan berapa banyak yang keluar, dan tagihan adalah jumlah tersebut dikalikan harga per juta token. Input dan output memiliki harga terpisah. Model yang berbeda memiliki harga berbeda. Beberapa aturan tambahan berlaku: batas laju, jendela konteks, dan cara Anda melakukan pembayaran (prabayar atau tagihan). Itulah keseluruhan model harga, dan sisa halaman ini menguraikan setiap bagiannya.
Klarifikasi terlebih dahulu. Saat orang mengetikkan frasa ini ke dalam kotak pencarian, mereka sering kali maksudnya daftar harga milik OpenAI. Kami bukan OpenAI, dan kami tidak mengutip harga mereka di sini, karena harga tersebut berubah dan Anda harus membacanya di sumber aslinya. Yang dapat kami jelaskan secara akurat adalah strukturnya, yang dimiliki bersama oleh sebagian besar penyedia, dan cara kerjanya pada API yang kami jalankan: API teks saja yang di-hosting, kompatibel dengan OpenAI, dengan satu model bobot terbuka, uncensored, yang dioperasikan oleh penyedia independen.
Token adalah satuan-satuan
Token adalah potongan teks yang dibaca atau ditulis oleh model. Token bisa berupa satu kata pendek utuh, bagian dari kata panjang, angka, atau tanda baca. Untuk prosa bahasa Inggris biasa, aturan praktisnya adalah satu token sekitar empat karakter, atau tiga perempat kata. Bahasa lain, kode, dan pemformatan unik biasanya membutuhkan lebih banyak token untuk panjang yang terlihat sama, jadi perlakukan aturan praktis sebagai perkiraan dan baca jumlah sebenarnya dari API.
Setiap respons dari API kami menyertakan objek penggunaan dengan prompt_tokens dan completion_tokens. Untuk respons streaming, penggunaan tiba di akhir. Dua angka itulah yang menjadi dasar penagihan. Tidak ada hal lain, seperti jumlah permintaan atau waktu panggilan, yang masuk ke dalam harga.
Karena satuannya adalah token, bukan karakter atau panggilan, fitur yang sama bisa murah atau mahal tergantung bagaimana Anda membuatnya. Prompt klasifikasi satu baris mungkin hanya menghabiskan pecahan sen untuk seribu panggilan. Prompt yang menempelkan dokumen 60 halaman ke setiap permintaan akan jauh lebih mahal, meskipun dipanggil dalam jumlah yang sama.
Input dan output memiliki harga berbeda
Token input adalah semua yang Anda kirim: pesan sistem, riwayat percakapan, pesan terbaru pengguna, definisi alat, dan hasil alat. Token output adalah apa yang dihasilkan model, termasuk panggilan alat apa pun yang ditulisnya. Menghasilkan teks membutuhkan lebih banyak komputasi daripada membacanya, sehingga penyedia menetapkan harga output lebih tinggi. Di API kami tarifnya adalah:
| Per 1M token | Per token | |
|---|---|---|
| Input | $0.15 | $0.00000015 |
| Output | $0.50 | $0.0000005 |
Output adalah 0.50 / 0.15, atau sekitar 3,3 kali lebih mahal per token. Rasio itu mendorong keputusan desain. Jika aplikasi Anda mengirim prompt 3.000 token dan mendapatkan kembali label 100 token, input adalah $0.00045 dan output adalah $0.00005, sehingga prompt adalah 90 persen dari biaya, dan memperpendeknya lebih penting daripada apa pun. Jika aplikasi Anda meminta cerita 2.000 token dari prompt 200 token, input adalah $0.00003 dan output adalah $0.001, sehingga output adalah 97 persen dari biaya, dan faktor penentunya adalah panjang cerita.
Periksa angka-angka itu sendiri: 3.000 x 0,15 / 1.000.000 = 0,00045. 100 x 0,50 / 1.000.000 = 0,00005. 200 x 0,15 / 1.000.000 = 0,00003. 2.000 x 0,50 / 1.000.000 = 0,001.
Mengapa riwayat membuat percakapan semakin mahal seiring waktu
API bersifat stateless. Model tidak mengingat permintaan terakhir Anda, sehingga aplikasi chat mengirim ulang pesan sebelumnya dengan setiap pesan baru. Input untuk giliran 10 oleh karena itu berisi giliran 1 hingga 9 lagi, dan Anda membayar untuk token itu setiap kali.
Ambil contoh percakapan di mana setiap giliran menambahkan total 400 token. Giliran 1 mengirim sekitar 400 token konteks, giliran 10 sekitar 4.000, dan giliran 50 sekitar 20.000. Jendela konteks model pada API kami adalah 100.000 token, gabungan prompt dan completion, sehingga sesi yang sangat panjang pada akhirnya perlu dipangkas, terlepas dari apakah biaya menjadi pertimbangan atau tidak. Perbaikan umum meliputi:
- Pertahankan prompt sistem dan N putaran terakhir, dan buang bagian tengahnya.
- Ringkas putaran lama menjadi catatan singkat dan kirimkan catatan tersebut sebagai gantinya.
- Simpan fakta jangka panjang di luar chat dan sisipkan hanya yang relevan.
Angka konkret: prompt sistem 1.000 token yang dikirim dengan setiap dari 1.000 permintaan adalah 1.000.000 token input, yang bernilai $0,15. Bagus secara terpisah. Tetapi lembar karakter 10.000 token yang dikirim dengan setiap dari 100.000 permintaan adalah 1.000.000.000 token input, atau $150. Biaya tetap dikalikan volume, dan perkalian itulah yang perlu diwaspadai.
Saldo prabayar, bukan langganan
Penyedia berbeda dalam cara uang bergerak. Beberapa menagih Anda setelah bulan berakhir, beberapa memotong dari saldo prabayar, dan beberapa menggabungkan keduanya dengan paket bulanan. Di API kami, semuanya sederhana: Anda menambahkan kredit, penggunaan menguranginya, dan tidak ada yang memperbarui sendiri. Kredit tidak pernah kedaluwarsa. Permintaan yang gagal atau ditolak tidak dikenakan biaya.
Isi saldo adalah jumlah bulat dari $20 hingga $500, dengan bonus +5% dari $50, +10% dari $100 dan +15% dari $200. Jadi $100 memberikan $110 saldo prabayar, dan $200 memberikan $230. Anda dapat membayar dengan kripto (USDT di TRC20, USDC di Base). Hasil praktisnya adalah kasus terburuk Anda dibatasi oleh apa yang Anda tambahkan: bug yang menyebabkan loop tidak dapat menghabiskan lebih dari saldo. Saldo setelah setiap panggilan ada di header respons X-Balance-USD.
Pengguna baru dapat mencoba layanan terlebih dahulu. Setelah masuk, satu klik di halaman kunci API mengklaim $0,50 kredit uji coba, berlaku selama 7 hari, satu per orang, tanpa kartu.
Batas laju adalah pengatur terpisah
Dua API dengan harga per juta token yang sama masih bisa terasa sangat berbeda, karena batas laju menentukan berapa banyak yang dapat Anda dorong per menit. Penyedia biasanya menetapkan batas per tingkat akun. Di API kami, kunci penuh memungkinkan 8 permintaan konkuren dan 300 permintaan per menit, dan kunci uji coba memungkinkan 2 konkuren dan 60 per menit. Tubuh maksimum adalah 8 MB.
Ketika Anda melebihi batas, Anda mendapatkan HTTP 429. Kode error adalah rate_limited ketika Anda melebihi permintaan per menit dan concurrency ketika terlalu banyak permintaan yang sedang berjalan. Saat overload sementara, API juga mengembalikan 429 dengan header Retry-After: 5. Satu detail yang menjebak orang: permintaan streaming memegang slot konkurensinya hingga stream berakhir, sehingga klien lambat yang membaca token satu per satu dapat mengisi 8 slot lebih cepat daripada yang ditunjukkan oleh jumlah permintaan.
Batas mengubah throughput, bukan harga. Jika Anda perlu mendorong batch besar, aritmetika sederhananya: pada 300 permintaan per menit, 10.000 permintaan membutuhkan sekitar 34 menit, dengan asumsi setiap selesai cukup cepat untuk tetap dalam 8 secara bersamaan.
Menerapkan model ke API ini
Bagian yang kompatibel dengan OpenAI adalah yang membuat model harga dapat dipindahkan. Setiap SDK OpenAI berfungsi setelah Anda mengubah URL dasar dan kunci, sehingga kode pelacakan biaya yang Anda tulis untuk penyedia lain biasanya dapat digunakan kembali. Skrip ini membaca penggunaan dan menghitung biaya panggilan pada tarif kami:
from openai import OpenAI
client = OpenAI(
base_url="https://api.openaiapipricing.com/v1",
api_key="YOUR_API_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain what a token is in two sentences."},
],
)
u = resp.usage
input_cost = u.prompt_tokens * 0.15 / 1_000_000
output_cost = u.completion_tokens * 0.50 / 1_000_000
print(f"in={u.prompt_tokens} out={u.completion_tokens} total={input_cost + output_cost:.7f}")
Apa API ini, berdasarkan istilah di atas: satu model, teks saja, jendela konteks 100.000 token, pemanggilan fungsi, mode JSON dan streaming, serta prompt yang tidak digunakan untuk pelatihan. Model ini disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah, dan ada batas tegas pada konten seksual yang melibatkan anak di bawah umur. Ini bukan router lintas vendor dan bukan endpoint resmi dari vendor mana pun. Detail untuk pengaturan ada di panduan memulai cepat, dan daftar harga lengkap ada di halaman harga. Untuk perbandingan yang ditelusuri terhadap layanan lain, lihat halaman biaya API ChatGPT.
Panduan lainnya
Tanya jawab
Apa arti model harga API OpenAI dalam istilah yang sederhana?
Anda membayar per token: satu tarif untuk token yang Anda kirimkan dan tarif lebih tinggi untuk token yang dihasilkan model. Tarif bergantung pada model, dan tagihan adalah jumlah token dikalikan harga per juta token.
Apakah input atau output lebih mahal?
Output. Di API kami, tarifnya adalah $0,50 per 1 juta token dibandingkan $0,15 per 1 juta untuk input, sekitar 3,3 kali lebih mahal.
Mengapa percakapan panjang lebih mahal per pesan?
API tidak mengingat putaran sebelumnya, sehingga setiap permintaan mengirim ulang riwayat sebagai token input. Semakin panjang riwayatnya, semakin banyak input yang Anda bayar pada setiap putaran.
Apakah batas laju mengubah apa yang Anda bayar?
Tidak. Mereka membatasi permintaan per menit dan permintaan konkuren. Harga per token tetap sama.
Apakah API Anda sama dengan milik OpenAI?
Tidak. API ini mengikuti format permintaan OpenAI sehingga SDK yang ada dapat digunakan, tetapi API ini menjalankan model bobot terbuka yang berbeda yang dioperasikan oleh penyedia independen.
Kunci Anda hanya satu formulir antarmuka lagi
Buat akun, salin kunci, ubah URL dasar. Itu saja seluruh proses pengaturannya.