Harga API Mistral AI vs API Berbayar per Token Tanpa Sensor

Jawaban singkat

Jika Anda mencari harga API Mistral AI, jawaban yang jujur adalah tidak ada angka tunggal. Mistral menetapkan harga setiap model secara terpisah, biasanya dengan satu tarif untuk token input dan tarif yang lebih tinggi untuk token output, dan daftar berubah ketika model ditambahkan atau dihentikan. Buka halaman harga mereka, pilih model yang benar-benar akan Anda panggil, dan catat kedua tarif per 1M token.

API di situs ini memiliki satu model dan satu harga: $0,15 per 1 juta token input dan $0,50 per 1 juta token output. Anda mengisi saldo prabayar, menggunakannya hingga habis, dan tidak ada perpanjangan otomatis. Sisa artikel ini memberikan Anda rumus, serangkaian contoh perhitungan pada tarif tersebut, dan skrip singkat yang mengukur lalu lintas Anda sendiri, sehingga Anda dapat menempatkan angka vendor lain di samping angka kami dan melihat perbedaan dalam dolar.

Satu hal yang harus diselesaikan terlebih dahulu: ini bukan API Mistral resmi. Ini adalah layanan independen yang menjalankan satu model bobot terbuka, disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Jika Anda memerlukan model Mistral resmi tertentu berdasarkan nama, ini adalah produk yang salah dan perbandingan di bawah ini tidak akan mengubahnya.

Cara membangun tagihan per token

API model bahasa menghitung teks dalam token, yang merupakan fragmen kata. Kata bahasa Inggris pendek sering kali menjadi satu token, sedangkan kata panjang atau tidak biasa menjadi beberapa token. Anda membayar dua aliran: token yang Anda kirim (prompt, termasuk pesan sistem dan riwayat obrolan) dan token yang ditulis kembali oleh model (output). Token output lebih mahal karena menghasilkan token tersebut membutuhkan lebih banyak komputasi daripada membaca prompt.

Rumusnya sama di mana-mana:

cost = input_tokens / 1,000,000 x input_rate + output_tokens / 1,000,000 x output_rate

Dua kebiasaan membuat estimasi lebih akurat. Pertama, hitung seluruh prompt pada setiap panggilan. Aplikasi obrolan mengirim ulang seluruh riwayat setiap giliran, sehingga pesan kesepuluh dalam percakapan membawa sembilan pesan sebelumnya sebagai input. Kedua, ingat bahwa jendela konteks dibagi: di sini adalah 100.000 token untuk prompt dan output bersama-sama, dan output dapat menggunakan apa pun yang tersisa dari prompt.

Contoh perhitungan pada $0,15 dan $0,50

Tabel di bawah menggunakan tarif API ini. Setiap baris menunjukkan aritmatika, sehingga Anda dapat memasukkan tarif vendor lain dan menghitungnya kembali.

Beban kerja	Token masuk / keluar	Matematika	Biaya
Satu giliran obrolan	2,000 / 500	0.0003 + 0.00025	$0.00055
10.000 giliran obrolan	20M / 5M	3.00 + 2.50	$5.50
Ringkas satu dokumen panjang	50,000 / 1,000	0.0075 + 0.0005	$0.008
Isi seluruh jendela sekali	98,000 / 2,000	0.0147 + 0.001	$0.0157
Aplikasi kecil, satu bulan	5M / 2M	0.75 + 1.00	$1.75
Aplikasi sibuk, satu bulan	200M / 50M	30.00 + 25.00	$55.00

Lihat baris ketiga. Membaca dokumen 50.000 token biayanya kurang dari satu sen, karena input adalah sisi yang murah. Sisi yang mahal adalah jawaban panjang. Beban kerja yang menghasilkan banyak teks, seperti fiksi, roleplay atau penulisan massal, didominasi oleh tarif $0,50, sehingga estimasi volume output Anda dengan hati-hati dan lihat melampaui jumlah prompt.

Mengubah anggaran menjadi permintaan

Isi saldo terkecil adalah $20. Pada ukuran giliran obrolan di atas ($0,00055 masing-masing) itu sekitar 36.000 giliran. Isi saldo yang lebih besar membawa bonus: +5% dari $50, +10% dari $100 dan +15% dari $200. Jadi $50 membeli kredit senilai $52,50, $100 membeli $110, dan $200 membeli $230. Isi saldo adalah jumlah bulat apa pun dari $20 hingga $500.

Apa yang harus dibandingkan selain tarif utama

Dua API dengan tarif per token yang sama masih bisa memiliki biaya yang sangat berbeda. Ini adalah item yang layak diperiksa di halaman harga mana pun, termasuk milik kami.

• Model mana yang Anda bayar. Tarif yang lebih murah pada model yang lebih kecil bukan penghematan jika Anda harus menjalankan ulang jawaban. Uji prompt Anda sendiri pada setiap kandidat.
• Penolakan dan percobaan ulang. Jika model menolak permintaan yang sah dan Anda harus mengubah kalimat dan mengirimkannya kembali, Anda membayar untuk percobaan tambahan di sebagian besar layanan. Di sini, permintaan yang gagal atau ditolak tidak dikenakan biaya.
• Model penagihan. Saldo prabayar tanpa langganan berarti bulan tanpa aktivitas tidak mengeluarkan biaya. Saldo di sini tidak pernah kedaluwarsa.
• Jatah gratis. Tingkat gratis dimaksudkan untuk mencoba sesuatu dan biasanya disertai dengan batas laju yang ketat. Lihat cara mendapatkan kunci API untuk kredit uji coba yang tersedia di sini, dan periksa apa yang ditawarkan Mistral saat ini di sisi mereka.
• Batas laju. Harga rendah tidak berguna jika Anda mencapai batas saat peluncuran. Kunci penuh di sini memungkinkan 8 permintaan paralel dan 300 permintaan per menit; kunci uji coba memungkinkan 2 dan 60.
• Pengeluaran minimum. Layanan prabayar memiliki batas bawah. Milik kami adalah $20.

Kapan API milik Mistral adalah pilihan yang lebih baik

Kadang-kadang jawaban yang tepat adalah tetap dengan vendor. Pilih Mistral secara langsung jika Anda memerlukan salah satu model bernama mereka untuk alasan kebijakan atau reproduktibilitas, jika Anda memerlukan fitur yang tidak ditawarkan layanan ini seperti embedding, input gambar atau fine-tuning, atau jika perusahaan Anda memerlukan kontrak dan persyaratan dukungan dengan pembuat model. API ini hanya teks: output obrolan dan daftar model, tidak ada yang lain.

Pilih endpoint independen seperti ini ketika faktor penentu berbeda: Anda menginginkan jawaban tanpa penolakan konten untuk penggunaan dewasa yang sah, Anda lebih suka membayar per token dari saldo prabayar, atau Anda sudah memiliki kode yang ditulis terhadap SDK OpenAI dan ingin mengubah dua pengaturan alih-alih menulis ulang klien. halaman tentang API gaya Mistral tanpa sensor menjelaskan sisi model secara lebih rinci.

Ada juga batas keras yang perlu dinyatakan dengan jelas: layanan tidak menghasilkan konten seksual yang melibatkan anak di bawah umur, dalam konteks apa pun, dan tidak ada tier harga yang mengubah itu.

Ukur lalu lintas Anda sendiri sebelum memutuskan

Estimasi dari tabel hanya sebatas itu. Metode yang lebih baik adalah mengirim satu hari prompt nyata dan membaca hitungan token yang dilaporkan API. Setiap respons non-streaming menyertakan objek usage, dan respons streaming melaporkan penggunaan di akhir. Skrip di bawah ini menjumlahkan batch dan mencetak tagihan pada tarif API ini. Untuk membandingkan, ubah dua konstanta tarif menjadi apa pun yang saat ini terdaftar oleh vendor lain.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.mistralapi.com/v1",
    api_key="YOUR_API_KEY",
)

IN_RATE = 0.15   # dollars per 1M input tokens
OUT_RATE = 0.50  # dollars per 1M output tokens

prompts = [
    "Summarize the plot of Hamlet in five sentences.",
    "Write a product description for a steel water bottle.",
    "Explain what a mutex is to a new developer.",
]

tin = tout = 0
for p in prompts:
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": p}],
    )
    tin += r.usage.prompt_tokens
    tout += r.usage.completion_tokens

cost = tin / 1e6 * IN_RATE + tout / 1e6 * OUT_RATE
print(f"in={tin} out={tout} cost=${cost:.6f}")
print("per 1,000 requests: $%.4f" % (cost / len(prompts) * 1000))

Jalankan terhadap beberapa ratus prompt dari log nyata Anda, bukan tiga mainan. Kemudian kalikan dengan jumlah permintaan bulanan Anda. Header respons X-Balance-USD juga menunjukkan sisa saldo Anda setelah setiap panggilan, yang merupakan pemeriksaan silang yang berguna terhadap angka yang Anda hitung. Detail permintaan lengkap ada di panduan mulai cepat, dan kartu tarif saat ini ada di halaman harga.

Tiga anggaran, tiga jenis pengguna

Tarif abstrak sulit dirasakan, jadi berikut adalah tiga profil realistis, masing-masing dihitung pada $0,15 dan $0,50 per 1 juta token.

Pengguna hobi

Seseorang yang mengobrol selama setengah jam sehari, sekitar 30 giliran dengan 3.000 token input dan 300 token output masing-masing. Satu giliran biaya 0,00045 + 0,00015 = $0,0006. Tiga puluh giliran sehari selama 30 hari adalah 900 giliran, jadi $0,54 untuk bulan itu. Isi saldo terkecil sebesar $20 akan bertahan bertahun-tahun pada kecepatan itu, dan karena saldo tidak pernah kedaluwarsa, itu bukan masalah.

Bot dukungan

Toko kecil yang menjawab 1.500 tiket sehari, masing-masing dengan 1.200 token input (teks kebijakan ditambah pesan pelanggan) dan 250 token output. Satu tiket biaya 0,00018 + 0,000125 = $0,000305. Satu hari adalah $0,4575, dan bulan 30 hari mencapai sekitar $13,73. Di sini prompt sistem adalah biaya input terbesar, sehingga memperpendeknya membayar langsung.

Prosesor batch

Sebuah pipeline yang menandai 100.000 dokumen, masing-masing dengan input 2.000 token dan output 200 token. Input adalah 200 juta token, yang bernilai $30,00. Output adalah 20 juta token, yang bernilai $10,00. Seluruh pekerjaan bernilai $40,00, dan Anda dapat melihat tagihan sebelum menjalankannya dengan mengalikan sampel.

Profil-profil ini menunjukkan mengapa kartu tarif saja tidak cukup. Pengguna hobiis peduli pada pengisian saldo minimum, bot dukungan tentang panjang prompt, dan pekerjaan batch tentang laju output dan batas konkurensi. Kunci penuh mengizinkan 8 permintaan secara bersamaan, sehingga batch 100.000 dokumen adalah soal throughput sama seperti soal harga.

Kesalahan umum saat membandingkan harga

• Hanya membandingkan tarif input. Banyak aplikasi menghabiskan sebagian besar uang mereka untuk output. Selalu bandingkan kedua kolom.
• Mengabaikan pertumbuhan riwayat. Percakapan dengan memori panjang mengirimkan pesan-pesan awal yang sama berulang kali. Potong atau ringkas putaran lama jika biaya menjadi perhatian.
• Lupa prompt sistem. Blok instruksi 1.500 token ditagih sebagai input pada setiap permintaan tunggal.
• Menggunakan token dari satu tokenizer untuk memperkirakan yang lain. Model yang berbeda membagi teks secara berbeda. Gunakan jumlah yang dikembalikan API, bukan jumlah kata dikalikan tebakan.
• Mencampur adukkan kuota gratis dengan kapasitas produksi. Tier gratis menjawab pertanyaan "apakah ini berfungsi?" Ia jarang menjawab "apakah ini akan bertahan di bawah lalu lintas nyata?"

Panduan lainnya

• Tier Gratis API Mistral: Batasan dan Alternatif Prabayar
• API Mistral Tanpa Sensor: Bayar Per Token