Tingkat Gratis API Mistral: Batas dan Alternatif Prabayar

Apa yang diharapkan dari tingkat gratis API Mistral

Sebagian besar orang yang mencari tingkat gratis api mistral ingin mengetahui tiga hal: berapa banyak permintaan yang mereka dapatkan, model mana yang termasuk, dan apa yang terjadi ketika mereka melebihi batasnya. Mistral menentukan ketiganya, dan angkanya adalah jenis yang akan disesuaikan, sehingga angka apa pun yang disalin ke artikel seperti ini akan segera kedaluwarsa. Buka halaman dokumentasi dan penagihan mereka dan baca batas terbaru secara langsung.

Yang dapat Anda prediksi adalah bentuknya. Alokasi gratis di seluruh industri cenderung memiliki beberapa karakteristik: batas laju yang lebih rendah daripada paket berbayar, batas token atau permintaan per periode, ketentuan tentang bagaimana prompt dapat digunakan, dan tidak ada janji kapasitas selama jam sibuk. Tidak ada yang menjadi kritik. Tingkat gratis adalah alat pemasaran dan pengujian, dan berfungsi dengan baik untuk pekerjaan itu.

Hal ini menjadi masalah ketika prototipe secara diam-diam berubah menjadi produk. Pada hari aplikasi Anda memiliki pengguna nyata, Anda menginginkan batas yang dapat diprediksi, saldo yang dapat Anda lihat, dan jawaban atas pertanyaan "apa yang terjadi jika model menolak permintaan yang sepenuhnya sah?" Sisa halaman ini membahas cara merencanakan momen tersebut.

Pemeriksaan untuk membaca ketentuan tingkat gratis apa pun

Sebelum Anda membangun apa pun pada alokasi gratis, jawab pertanyaan-pertanyaan ini dari halaman penyedia sendiri. Tuliskan jawabannya dengan tanggal, karena hal ini berubah.

1. Berapa batas permintaan? Perhatikan permintaan per menit, token per menit, dan batas bulanan apa pun sebagai angka terpisah.
2. Model mana saja yang tercakup? Akses gratis terkadang hanya berlaku untuk beberapa model.
3. Apakah data dapat digunakan untuk pelatihan? Penggunaan gratis pada beberapa layanan memiliki ketentuan data yang berbeda daripada penggunaan berbayar. Baca bagian privasi, bukan bagian harga.
4. Apakah penggunaan komersial diperbolehkan? Beberapa paket gratis hanya untuk evaluasi.
5. Bagaimana jalur upgrade? Cari tahu berapa biaya akun berbayar dan apakah batas naik segera.
6. Apa saja aturan konten? Jika kasus penggunaan Anda adalah fiksi, roleplay atau penulisan berorientasi dewasa lainnya yang sah, periksa bagaimana model menanganinya sebelum Anda menginvestasikan waktu dalam prompt.

Item terakhir adalah alasan mengapa banyak orang berakhir pada layanan yang berbeda. Model dengan penolakan bawaan dapat melewati sepuluh prompt pengujian pertama Anda dan kemudian menolak yang kesebelas, dan tingkat gratis memberi Anda sedikit ruang untuk bereksperimen di sekitarnya.

Uji coba di sini, dalam angka

API ini independen dari Mistral dan menawarkan uji coba kecil sebagai pengganti tier gratis permanen. Pengguna baru mendaftar dengan Google atau dengan email dan kata sandi, lalu klik sekali pada halaman kunci API untuk mengklaim $0.50 kredit. Tidak ada langkah kartu. Berlaku selama 7 hari dan dibatasi satu per orang.

Kunci uji coba berjalan di bawah batas yang lebih rendah daripada kunci yang didanai: 2 permintaan paralel dan 60 permintaan per menit. Itu cukup untuk menguji skrip, klien obrolan bergaya SillyTavern, atau pekerjaan batch kecil, dan tidak cukup untuk aplikasi publik.

Apa yang dibeli dengan $0,50

Harga token adalah $0.15 per 1M input dan $0.50 per 1M output. Beberapa anggaran konkret:

• Semua input, tanpa output: $0,50 / $0,15 per 1M adalah sekitar 3,33M token prompt.
• Semua output: $0,50 / $0,50 per 1M adalah tepat 1M token teks yang dihasilkan.
• Permintaan kecil khas dengan 1.000 token masuk dan 300 keluar biaya 0,00015 + 0,00015 = $0,0003. Jadi $0,50 mencakup sekitar 1.666 di antaranya.
• Permintaan dokumen panjang dengan 20.000 token masuk dan 1.000 keluar biaya 0,003 + 0,0005 = $0,0035, jadi sekitar 142 di antaranya.

Dalam praktiknya, itu cukup untuk menjalankan beberapa ratus prompt nyata dari kasus penggunaan Anda sendiri, yang persis dibutuhkan evaluasi. Jika jawabannya bukan yang Anda inginkan, Anda kehilangan 50 sen dan tidak ada kartu yang pernah tersimpan.

Beralih dari uji coba ke produksi

Saat uji coba gratis berjalan, langkah selanjutnya adalah isi saldo prabayar dengan jumlah bulat apa pun dari $20 hingga $500. Tidak ada langganan dan saldo tidak pernah kedaluwarsa, sehingga mengisi saldo minimum dan membiarkannya selama sebulan tidak memerlukan biaya tambahan. Jumlah yang lebih besar memberikan bonus: +5% dari $50, +10% dari $100, +15% dari $200. Jadi, isi saldo $200 memberikan Anda kredit senilai $230.

Kunci yang didanai menaikkan batas menjadi 8 permintaan paralel dan 300 permintaan per menit. Dengan ukuran permintaan kecil dari di atas ($0.0003 masing-masing), isi saldo $20 mencakup sekitar 66.000 permintaan: 20 / 0,0003 adalah 66.666. Untuk kartu harga penuh, lihat halaman harga.

Pembayaran dilakukan dengan kripto (USDT pada TRC20, USDC pada Base).

Perbedaan yang paling Anda rasakan adalah prediktabilitas. Alih-alih bertanya-tanya apakah alokasi gratis bersama dibatasi hari ini, Anda memiliki saldo dalam dolar, header pada setiap respons yang menampilkannya, dan dua batas yang didokumentasikan. Permintaan yang gagal atau ditolak tidak ditagih, sehingga hari yang buruk di sisi server tidak menghabiskan saldo Anda.

Kode: jalankan uji coba dan pantau saldo

API mengikuti format obrolan OpenAI, jadi SDK Anda yang ada bekerja dengan Base URL dan kunci baru. Skrip ini mengirim satu permintaan, mencetak jawaban, dan membaca saldo yang tersisa dari header X-Balance-USD.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.mistralapi.com/v1",
    api_key="YOUR_API_KEY",
)

raw = client.chat.completions.with_raw_response.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Give me three names for a fantasy tavern."}],
    max_tokens=200,
)
resp = raw.parse()

print(resp.choices[0].message.content)
print("tokens in/out:", resp.usage.prompt_tokens, resp.usage.completion_tokens)
print("balance left: $", raw.headers.get("X-Balance-USD"))

Jalankan beberapa kali dan Anda akan melihat saldo bergerak dengan pecahan sen. Itu adalah cara terbaik untuk membangun perasaan tentang berapa biaya prompt Anda sebenarnya sebelum Anda berkomitmen untuk mengisi ulang. Jika Anda menginginkan hal yang sama dari shell:

Copycurl -i https://api.mistralapi.com/v1/chat/completions   -H "Authorization: Bearer YOUR_API_KEY"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}],"max_tokens":20}'

Bendera -i mencetak header respons, termasuk X-Request-Id, X-Balance-USD dan dua header X-RateLimit-Limit. Simpan ID permintaan jika Anda pernah menghubungi dukungan.

Menangani batas laju tanpa kehilangan permintaan

Batas ada di setiap paket, gratis atau berbayar, jadi tulis logika retry sekali. API ini menjawab dengan HTTP 429 dalam tiga situasi. Kode error rate_limited berarti Anda melebihi permintaan per menit. Kode concurrency berarti terlalu banyak permintaan yang sedang berjalan sekaligus. 429 dengan header Retry-After: 5 berarti kelebihan beban sementara. Dalam ketiga kasus tersebut, respons yang tepat adalah menunggu dan mengirim permintaan lagi.

Copyimport time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.mistralapi.com/v1", api_key="YOUR_API_KEY")

def ask(prompt, tries=5):
    for attempt in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("still rate limited after retries")

Pada kunci uji coba, pertahankan worker pool Anda pada dua atau kurang. Permintaan streaming memegang slot konkurensinya hingga stream selesai, jadi dua stream panjang dapat memblokir permintaan ketiga bahkan jika Anda jauh di bawah 60 per menit.

Rencana evaluasi realistis untuk uji coba

Setengah dolar sangat berharga jika Anda membelikannya pada pengujian yang tepat. Rencana yang bekerja dengan baik:

1. Kumpulkan 100 hingga 200 prompt nyata. Gunakan pesan pengguna asli, tiket dukungan, atau pemancing cerita dari proyek Anda, bukan contoh buatan. Sertakan yang canggung yang mungkin ditolak model lain.
2. Jalankan sekali dengan pengaturan tetap. Gunakan suhu rendah agar Anda menilai model, bukan acakannya.
3. Baca sampel secara manual. Dua puluh balasan cukup untuk melihat pola. Catat yang tidak akan Anda kirim.
4. Ukur token. Rata-rata hitungan prompt dan completion dari usage.
5. Proyeksikan tagihan bulanan. Kalikan biaya per permintaan dengan volume yang Anda harapkan.

Untuk gambaran: 200 prompt dengan 800 token masuk dan 400 token keluar menggunakan 160.000 token input (0,024 dolar) dan 80.000 token output (0,04 dolar), sehingga satu putaran penuh menghabiskan $0,064. Anda dapat menjalankan set pengujian itu sekitar tujuh kali di dalam uji coba $0,50, dan masa berlaku 7 hari jarang menjadi batas. Mengubah prompt sistem di antara putaran adalah penyetelan termurah yang pernah Anda lakukan.

Hentikan uji coba lebih awal jika balasan tidak cukup baik untuk tugas Anda. Tidak ada yang memperbarui, dan tidak ada kartu yang dimasukkan, jadi tidak ada yang perlu dibatalkan.

Jalur mana yang sesuai untuk Anda

Gunakan tier gratis saat Anda memeriksa apakah model cukup mampu, saat Anda menulis tutorial, atau saat volumenya hanya beberapa permintaan per hari. Gunakan kunci prabayar ketika orang lain bergantung pada output, ketika Anda perlu mengetahui batas Anda sebelumnya, atau ketika kasus penggunaan Anda berada di tempat model yang lebih ketat mungkin menolak. quickstart mencakup perubahan dalam beberapa baris jika Anda berasal dari integrasi Mistral yang ada.

Ingat satu aturan apa pun pilihan Anda: layanan tidak menghasilkan konten seksual yang melibatkan anak di bawah umur, dan tidak ada tier atau pengaturan yang mengubah itu.

Panduan lainnya

• Harga API Mistral AI vs API Berbayar Per-Token Tanpa Sensor
• API Mistral Tanpa Sensor: Bayar Per Token