Mistral AI API Fiyatlandırması vs. Sansürsüz Token Bazlı API

Kısa cevap

Mistral AI API fiyatlandırmasını arıyorsanız, dürüst cevap tek bir sayı olmadığıdır. Mistral her modeli ayrı fiyatlandırır; genellikle giriş tokenları için tek bir oran ve çıktı tokenları için daha yüksek bir oran vardır ve liste modeller eklendiğinde veya kaldırıldığında değişir. Fiyatlandırma sayfalarını açın, gerçekten çağırmayı planladığınız modeli seçin ve her iki oranı da 1M token başına not edin.

Bu sitedeki API'nin tek bir modeli ve tek bir fiyatı vardır: 1M giriş tokenı başına $0,15 ve 1M çıktı tokenı başına $0,50. Ön ödemeli krediyi yüklersiniz, harcarsınız ve hiçbir şey yenilenmez. Bu makalenin geri kalanı size formülü, bu iki oranda hesaplanmış örnekleri ve kendi trafiğinizi ölçen kısa bir betiği verir; böylece başka bir sağlayıcının sayılarını bizimkilerle yan yana koyabilir ve farkı dolar cinsinden görebilirsiniz.

Öncelikle bir şeyi netleştirmek gerekir: bu resmi Mistral API'si değildir. Bağımsız bir hizmettir ve yasal yetişkin kullanım için sansürsüz yanıt verecek şekilde ayarlanmış tek bir açık ağırlıklı modeli çalıştırır. Belirli bir resmi Mistral modelini ismen gerekiyorsanız, bu yanlış üründür ve aşağıdaki karşılaştırma bunu değiştirmez.

Token başına fatura nasıl oluşturulur

Bir dil modeli API'si metni tokenlara böler; bunlar kelime parçalarıdır. Kısa bir İngilizce kelime genellikle bir token iken, uzun veya alışılmadık kelimeler birkaç token olabilir. İki akış için ödeme yaparsınız: gönderdiğiniz tokenlar (istem, sistem mesajı ve sohbet geçmişi dahil) ve modelin geri yazdığı tokenlar (tamamlama). Çıktı tokenları daha pahalıdır çünkü bunları oluşturmak, istemi okumaktan daha fazla hesaplama gücü gerektirir.

Formül her yerde aynıdır:

cost = input_tokens / 1,000,000 x input_rate + output_tokens / 1,000,000 x output_rate

Tahminleri daha doğru hale getiren iki alışkanlık vardır. İlk olarak, her çağrıda tam istemi sayın. Bir sohbet uygulaması her adımda tam geçmişi yeniden gönderir, bu nedenle bir konuşmadaki onuncu mesaj, ilk dokuzunu girdi olarak taşır. İkinci olarak, bağlam penceresinin paylaşıldığını unutmayın: burada prompt ve tamamlama birlikte 100.000 token içindir ve bir tamamlama, prompt'un serbest bıraktığı her şeyi kullanabilir.

$0,15 ve $0,50 ile örnek hesaplamalar

Aşağıdaki tablo bu API'nin oranlarını kullanır. Her satır aritmetiği gösterir, böylece başka bir sağlayıcının oranlarını yerleştirebilir ve yeniden hesaplayabilirsiniz.

İş yükü	Girdi / Çıktı tokenları	Matematik	Maliyet
Bir sohbet dönüşü	2,000 / 500	0.0003 + 0.00025	$0.00055
10.000 sohbet dönüşü	20M / 5M	3.00 + 2.50	$5.50
Tek uzun belgenin özetini çıkarın	50,000 / 1,000	0.0075 + 0.0005	$0.008
Tüm pencereyi bir kez doldurun	98,000 / 2,000	0.0147 + 0.001	$0.0157
Küçük uygulama, bir ay	5M / 2M	0.75 + 1.00	$1.75
Yoğun uygulama, bir ay	200M / 50M	30.00 + 25.00	$55.00

Üçüncü satıra bakın. 50.000 tokenlık bir belgenin okunması bir kuruştan daha az maliyetlidir, çünkü girdi ucuz taraftadır. Pahalı taraf uzun yanıtlardır. Kurgu, rol yapma veya toplu taslak oluşturma gibi çok metin üreten bir iş yükü, $0,50 oranı tarafından baskın olduğundan, çıktı hacminizi dikkatlice tahmin edin ve istem sayısının ötesine bakın.

Bütçeyi isteklere dönüştürme

En küçük bakiye yükleme $20'dir. Yukarıdaki sohbet dönüşü boyutunda ($0,00055'lik) bu yaklaşık 36.000 dönüş demektir. Daha büyük bakiye yüklemeleri bonus taşır: $50'den +%5, $100'den +%10 ve $200'den +%15. Yani $50 $52,50 kredi satın alır, $100 $110 satın alır ve $200 $230 satın alır. Bakiye yüklemeleri $20 ile $500 arasında herhangi bir tam miktardadır.

Başlıca orana ek olarak karşılaştırmanız gerekenler

Aynı token başına orana sahip iki API hala çok farklı miktarlara mal olabilir. Bunlar, kendi fiyatlandırma sayfamız dahil olmak üzere her sayfada kontrol etmeye değer öğelerdir.

• Hangi model için ödeme yaptığınız. Daha küçük bir model için daha düşük bir oran, yanıtları yeniden çalıştırmanız gerekiyorsa tasarruf değildir. Aday modeller üzerinde kendi istemlerinizi test edin.
• Reddiyeler ve yeniden denemeler. Bir model yasal bir isteği reddeder ve yeniden ifade edip yeniden göndermeniz gerekirse, çoğu hizmette ek denemeler için ödeme yaparsınız. Burada, başarısız veya reddedilen istekler için ücret alınmaz.
• Faturalandırma modeli. Abonelik içermeyen ön ödemeli kredi, kullanılmayan bir ayın hiçbir maliyeti olmadığı anlamına gelir. Buradaki kredi hiç sona ermez.
• Ücretsiz hakediş. Ücretsiz katmanlar denemek içindir ve genellikle sıkı hız limitleri ile gelir. Buradaki deneme kredisi için nasıl API anahtarı alınır bakın ve Mistral'ın şu anda ne sunduğunu kontrol edin.
• Hız limitleri. Düşük bir fiyat, lansmanda bir tavana çarparsanız işe yaramaz. Tam anahtar burada eşzamanlı 8 istek ve dakikada 300 istek izni verir; deneme anahtarı ise 2 ve 60 izni verir.
• Minimum harcama. Ön ödemeli hizmetlerin bir alt sınırı vardır. Bizimkisi $20'dir.

Mistral'ın kendi API'sinin daha iyi olduğu zamanlar

Bazen doğru cevap sağlayıcıda kalmaktır. Bir politika veya yeniden üretilebilirlik nedeniyle adlandırılmış bir Mistral modeline ihtiyacınız varsa, bu hizmetin sunmadığı gömme katmanları, görüntü girişi veya ince ayar gibi özelliklere ihtiyacınız varsa veya şirketinizden modelin yapıcısıyla sözleşme ve destek şartları gerekiyorsa doğrudan Mistral'ı seçin. Bu API sadece metindir: sohbet tamamlamaları ve bir model listesi, başka hiçbir şey yok.

Karar veren faktörler farklı olduğunda bu bağımsız uç noktayı seçin: yasal yetişkin kullanım için içerik reddi olmayan yanıtlar istiyorsunuz, ön ödemeli bakiyeden token başı ödemeyi tercih ediyorsunuz veya OpenAI SDK'sına göre yazılmış kodunuz var ve bir istemciyi yeniden yazmak yerine iki ayarı değiştirmek istiyorsunuz. Sansürsüz Mistral tarzı API sayfası model tarafını daha ayrıntılı açıklar.

Ayrıca açıkça belirtilmesi gereken bir katı limit de vardır: hizmet herhangi bir çerçevede reşit olmayanlar içeren cinsel içerik üretmez ve bu durum hiçbir fiyatlandırma katmanı tarafından değiştirilmez.

Karar vermeden önce kendi trafiğinizi ölçün

Bir tablodan elde edilen tahminler belirli bir noktaya kadar gider. Daha iyi yöntem, gerçek bir gün istemi göndermek ve API'nin raporladığı token sayılarını okumaktır. Her akış olmayan yanıt bir usage nesnesi içerir ve akışlı yanıtlar kullanımı sona erdiğinde bildirir. Aşağıdaki betik bir toplu işi toplar ve bu API'nin oranlarına göre faturayı yazdırır. Karşılaştırmak için iki oran sabitini diğer satıcının şu anda listelediği herhangi bir şeye değiştirin.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.mistralapi.com/v1",
    api_key="YOUR_API_KEY",
)

IN_RATE = 0.15   # dollars per 1M input tokens
OUT_RATE = 0.50  # dollars per 1M output tokens

prompts = [
    "Summarize the plot of Hamlet in five sentences.",
    "Write a product description for a steel water bottle.",
    "Explain what a mutex is to a new developer.",
]

tin = tout = 0
for p in prompts:
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": p}],
    )
    tin += r.usage.prompt_tokens
    tout += r.usage.completion_tokens

cost = tin / 1e6 * IN_RATE + tout / 1e6 * OUT_RATE
print(f"in={tin} out={tout} cost=${cost:.6f}")
print("per 1,000 requests: $%.4f" % (cost / len(prompts) * 1000))

Bunu gerçek günlük kayıtlarınızdan birkaç yüz isteme karşı çalıştırın, üç basit isteme karşı değil. Ardından bunu aylık istek sayınızla çarpın. X-Balance-USD yanıt başlığı, her çağrının ardından kalan kredinizi de gösterir; bu, hesapladığınız sayılarla karşılaştırmak için kullanışlı bir kontrol sağlar. Tam istek ayrıntıları hızlı başlangıç sayfasında bulunur ve güncel oran kartı fiyatlandırma sayfasında yer alır.

Üç bütçe, üç kullanıcı türü

Soyut oranlar kavranması zor olduğundan, burada her biri 1M token başına $0,15 ve $0,50 ile hesaplanan üç gerçekçi profil bulunmaktadır.

Hobist

Günde yarım saat sohbet eden bir kişi, günde yaklaşık 30 dönüş, her dönüşte 3.000 girdi tokenı ve 300 çıktı tokenı. Bir dönüş 0,00045 + 0,00015 = $0,0006 maliyetindedir. 30 gün için günde 30 dönüş 900 dönüş eder, bu da ay için $0,54 eder. En küçük $20'lik bakiye yükleme bu tempoda yıllarca sürer ve kredi hiç sona ermediğinden bu bir sorun değildir.

Destek botu

Günde 1.500 bilet yanıtlayan küçük bir mağaza, her biri 1.200 girdi tokenı (politik metni ve müşteri mesajı) ve 250 çıktı tokenı içerir. Bir bilet 0,00018 + 0,000125 = $0,000305 eder. Bir gün $0,4575 eder ve 30 günlük bir ay yaklaşık $13,73 eder. Burada sistem istemi en büyük girdi maliyetidir, bu nedenle onu kısaltmak doğrudan tasarruf sağlar.

Toplu işleyici

100.000 belgeyi etiketleyen bir boru hattı, her biri 2.000 token girdi ve 200 token çıktı. Girdi 200M token eder, bu $30,00 eder. Çıktı 20M token eder, bu $10,00 eder. Tüm iş $40,00 eder ve bir örneği çarparak çalıştırmadan önce faturayı görebilirsiniz.

Bu profiller, neden oran kartının tek başına yeterli olmadığını gösterir. Hobi kullanıcısı minimum bakiye yüklemeye, destek botu istem uzunluğuna ve toplu iş çıktı oranına ve eşzamanlılık sınırına önem verir. Tam anahtar aynı anda 8 istek izni verir, bu nedenle 100.000 belgelik bir toplu iş, fiyat kadar verimlilik meselesidir.

Fiyat karşılaştırırken yapılan yaygın hatalar

• Yalnızca girdi oranını karşılaştırmak. Uygulamaların çoğu paralarını çıktıda harcar. Her iki sütunu da her zaman karşılaştırın.
• Geçmiş büyümesini yok saymak. Uzun bir hafızaya sahip bir sohbet, aynı erken mesajları tekrar tekrar gönderir. Maliyet önemliyse eski dönüşleri kısaltın veya özetleyin.
• Sistem istemini unutmak. 1.500 token'lık bir talimat bloğu, her tek istekte girdi olarak faturalandırılır.
• Bir tokenizacıdan gelen tokenları kullanarak diğerini tahmin etmek. Farklı modeller metni farklı şekilde böler. Bir kelime sayısını bir tahminle çarpmak yerine API'nin döndürdüğü sayıları kullanın.
• Ücretsiz kullanım hakkı ile üretim kapasitesini karıştırmak. Ücretsiz katman "bu çalışıyor mu?" sorusunu yanıtlar. "Gerçek trafik altında dayanır mı?" sorusunu nadiren yanıtlar.

Daha fazla kılavuz

• Mistral API Ücretsiz Katman: Limitler ve Ön Ödemeli Bir Alternatif
• Sansürsüz Mistral API: Token Başı Ödeme