Mistral API Ücretsiz Katman: Limitler ve Ön Ödemeli Alternatif

Mistral API ücretsiz katmandan ne bekleyeceğiniz

mistral api free tier araması yapanların çoğu üç şeyi bilmek ister: Kaç istek alacakları, hangi modellerin dahil olduğu ve kapasiteyi aşınca ne olacağı. Mistral hepsini belirler ve sayılar ayarlanmaya müsaittir, bu yüzden bu tür bir makaleye kopyalanan herhangi bir rakam kısa sürede güncelliğini yitirir. Dokümantasyon ve faturalandırma sayfalarını açın ve güncel limitleri doğrudan okuyun.

Tahmin edilebilecek olan şey şekildedir. Sektördeki ücretsiz haklar genellikle birkaç özelliği paylaşır: Ücretli planlardan daha düşük hız limitleri, dönem başı token veya istek için bir sınır, istemlerin nasıl kullanılabileceğine dair koşullar ve yoğun saatlerde kapasite garantisi olmaması. Bunların hiçbiri bir eleştiri değildir. Ücretsiz bir katman bir pazarlama ve test aracıdır ve bu iş için iyi çalışır.

Bir prototip sessizce ürüne dönüşürse sorun olur. Uygulamanız gerçek kullanıcılara sahip olduğunda öngörülebilir limitler, görebileceğiniz bir bakiye ve "model yasal bir isteği reddederse ne olur?" sorusuna bir cevap istersiniz. Sayfanın geri kalanı bu an için nasıl plan yapacağınızı kapsar.

Herhangi bir ücretsiz katmanın koşullarını okumak için bir kontrol listesi

Ücretsiz bir hak üzerinde herhangi bir şey inşa etmeden önce, sağlayıcının kendi sayfalarından bu soruları yanıtlayın. Değişecekleri için cevapları ve tarihi not edin.

1. İstek limiti nedir? Dakika başı istek, dakika başı token ve ayrı sayılar olarak herhangi bir aylık üst sınır arayın.
2. Hangi modeller kapsanıyor? Ücretsiz erişim bazen yalnızca bazı modeller için geçerlidir.
3. Veriler eğitim için kullanılabilir mi? Bazı hizmetlerdeki ücretsiz kullanım, ücretli kullanımdan farklı veri koşulları getirir. Fiyatlandırma bölümünü değil gizlilik bölümünü okuyun.
4. Ticari kullanım izin veriliyor mu? Bazı ücretsiz planlar yalnızca değerlendirme içindir.
5. Yükseltme yolu nedir? Ücretli bir hesabın maliyetini ve limitlerin hemen artıp artmadığını öğrenin.
6. İçerik kuralları nelerdir? Kullanım durumunuz kurgu, rol yapma veya yasal diğer yetişkin odaklı yazma ise, zamana yatırım yapmadan önce modelin bunu nasıl ele aldığını kontrol edin.

Son madde, birçok kişinin farklı bir hizmete yönelmesinin nedenidir. Yerleşik reddetme mekanizması olan bir model, ilk on test isteminizi geçebilir ve on birincisini reddedebilir; ücretsiz katman ise bu etrafında deneme yapmanız için çok az alan sağlar.

Buradaki deneme, sayılarla

Bu API Mistral'dan bağımsızdır ve kalıcı bir ücretsiz katman yerine küçük bir deneme sunar. Yeni kullanıcılar Google veya e-posta ve şifre ile kayıt olur, ardından API anahtarı sayfası üzerinde $0,50 kredi talep etmek için tek bir tıklama yapar. Kart adımı yoktur. 7 gün geçerlidir ve kişi başı bir kez sınırlıdır.

Deneme anahtarı, fonlanmış bir anahtardan daha düşük limitler altında çalışır: 2 eşzamanlı istek ve dakika başına 60 istek. Bu, bir betik, SillyTavern tarzı bir sohbet istemcisi veya küçük bir toplu iş için test yapmak için yeterlidir, ancak bir halka açık uygulama için yeterli değildir.

$0,50 ile ne alınır

Token fiyatları 1M giriş başı $0,15 ve 1M çıkış başı $0,50'dir. Bazı somut bütçeler:

• Yalnızca giriş, çıkış yok: $0,50 / $0,15 per 1M yaklaşık 3,33M token istem demektir.
• Tüm çıktı: 1M başına $0,50 / $0,50 tam olarak 1M token üretilmiş metin anlamına gelir.
• Tipik bir küçük istek, 1.000 token giriş ve 300 çıkış için 0,00015 + 0,00015 = $0,0003 maliyet eder. Yani $0,50 yaklaşık 1.666 tanesini karşılar.
• Uzun belge isteği, 20.000 token giriş ve 1.000 çıkış için 0.003 + 0.0005 = $0.0035 maliyet eder, yani yaklaşık 142 tanesi.

Pratikte bu, kendi kullanım durumunuzdan birkaç yüz gerçek istemi çalıştırmak için yeterlidir ve bir değerlendirme tam olarak bunu gerektirir. Cevaplar istediğiniz gibi değilse 50 cent kaybedersiniz ve kartınız daha önce dosyada kayıtlı değildi.

Denemeden üretime geçiş

Deneme işe yaradığında, adım $20 ile $500 arasında herhangi bir tam tutarda ön ödemeli yükleme yapmaktır. Abonelik yoktur ve kredi asla sona ermez, bu yüzden minimumu yükleyip bir ay boyunca bırakmak ek maliyet gerektirmez. Daha büyük tutarlar bonus ekler: $50'den +%5, $100'den +%10, $200'den +%15. Bu nedenle $200'lik bir yükleme size $230 kredi verir.

Fonlanmış bir anahtar limitleri 8 eşzamanlı istek ve dakika başına 300 istek'e yükseltir. Yukarıdaki küçük istek boyutundan ($0.0003 her biri), $20'lik bir yükleme yaklaşık 66.000 isteği karşılar: 20 / 0.0003 is 66,666. Tam fiyat listesi için fiyatlandırma sayfasına bakın.

Ödeme kripto (TRC20 üzerinde USDT, Base üzerinde USDC) ile yapılır.

Hissedeceğiniz fark öngörülebilirliktir. Paylaşılan ücretsiz bir kotanın bugün kısıtlanıp kısıtlanmadığını merak etmek yerine, dolar cinsinden bir bakiyeniz, her yanıtta bunu gösteren bir başlık ve iki belgelenmiş limitiniz vardır. Başarısız veya reddedilen bir istek faturalandırılmaz, bu yüzden sunucu tarafındaki kötü bir gün kredinizi yemez.

Kod: Denemeyi çalıştırın ve bakiyeyi izleyin

API OpenAI sohbet formatını takip eder, bu yüzden mevcut SDK'nız yeni bir base URL ve anahtar ile çalışır. Bu betik bir istek gönderir, cevabı yazdırır ve X-Balance-USD başlığından kalan bakiyeyi okur.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.mistralapi.com/v1",
    api_key="YOUR_API_KEY",
)

raw = client.chat.completions.with_raw_response.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Give me three names for a fantasy tavern."}],
    max_tokens=200,
)
resp = raw.parse()

print(resp.choices[0].message.content)
print("tokens in/out:", resp.usage.prompt_tokens, resp.usage.completion_tokens)
print("balance left: $", raw.headers.get("X-Balance-USD"))

Bunu birkaç kez çalıştırırsanız bakiyenin kuruş cinsinden hareket ettiğini görürsünüz. Bu, bir yükleme yapmaya karar vermeden önce istemlerinizin gerçekten neye mal olduğunu anlamak için en iyi yoldur. Kabuktan aynı şeyi isterseniz:

Copycurl -i https://api.mistralapi.com/v1/chat/completions   -H "Authorization: Bearer YOUR_API_KEY"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}],"max_tokens":20}'

-i bayrağı, X-Request-Id, X-Balance-USD ve iki X-RateLimit-Limit başlığı dahil olmak üzere yanıt başlıklarını yazdırır. destek ile iletişime geçerseniz istek kimliğini saklayın.

İstekleri kaybetmeden hız limitlerini yönetme

Limitler her planda, ücretsiz veya ücretli, vardır, bu yüzden yeniden deneme mantığını bir kez yazın. Bu API üç durumda HTTP 429 ile yanıt verir. rate_limited hata kodu dakika başı istekleri aştığınızı gösterir. concurrency kodu aynı anda çok fazla istek gönderildiğini gösterir. Retry-After: 5 başlığı ile bir 429 geçici aşırı yüklenmeyi gösterir. Üç durumda da doğru yanıt bekleme ve isteği tekrar göndermektir.

Copyimport time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.mistralapi.com/v1", api_key="YOUR_API_KEY")

def ask(prompt, tries=5):
    for attempt in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("still rate limited after retries")

Deneme anahtarında işçi havuzunuzu iki veya daha azda tutun. Akışlı bir istek, akış bitene kadar eşzamanlılık slotunu tutar, bu yüzden iki uzun akış, dakika başı 60'ın çok altında olsanız bile üçüncü bir isteği bloke edebilir.

Deneme için gerçekçi bir değerlendirme planı

Yarım dolar doğru testlere harcanırsa çok iyi gider. İyi çalışan bir plan:

1. 100 ile 200 gerçek istem toplayın. Gerçek kullanıcı mesajlarını, destek biletlerini veya projenizden hikaye başlangıçlarını kullanın, uydurma örnekler değil. Başka bir modelin reddedebileceği zorlu olanları dahil edin.
2. Onları sabit ayarlarla bir kez çalıştırın. Düşük bir sıcaklık kullanın ki zarları değil modeli değerlendiriyor olun.
3. Bir örneği elle okuyun. Bir kalıp tespit etmek için yirmi yanıt yeterlidir. Göndermeyeceğiniz olanları not edin.
4. Tokenları ölçün. usage'dan istem ve tamamlama sayılarının ortalamasını alın.
5. Aylık faturayı hesaplayın. İstek başına maliyeti beklenen hacimle çarpın.

Ölçek için: 200 istem, 800 token girdi ve 400 çıktı ile 160.000 girdi tokenı (0,024 dolar) ve 80.000 çıktı tokenı (0,04 dolar) kullanır, yani bir tam geçiş $0,064'a mal olur. Bu test setini $0,50 deneme içinde yaklaşık yedi kez çalıştırabilirsiniz ve 7 günlük geçerlilik nadiren sınırlayıcıdır. Geçişler arasında sistem istemini değiştirmek, yapabileceğiniz en ucuz ince ayardır.

Yanıtlar göreviniz için yeterince iyi değilse denemeyi erken sonlandırın. Hiçbir şey yenilenmez ve kart girilmediğinden iptal edilecek bir şey de yoktur.

Size uygun rota

Bir modelin yeterince yetkin olup olmadığını kontrol ettiğinizde, bir eğitim yazdığınızda veya günlük hacminin birkaç istek olduğu durumlarda ücretsiz katmanı kullanın. Çıktıdan diğer insanların bağımlı olduğu durumlarda, limitlerinizi önceden bilmeniz gerektiğinde veya kullanım durumunuz daha katı bir modelin reddedeceği bir yerde olduğunda ön ödemeli anahtar kullanın. Mevcut Mistral entegrasyonundan geliyorsanız, hızlı başlangıç, birkaç satırda geçişi kapsar.

Hangisini seçerseniz seçin bir kuralı aklınızda tutun: hizmet, reşit olmayanlarla ilgili cinsel içerik üretmez ve bu durumu değiştiren hiçbir katman veya ayar yoktur.

Daha fazla kılavuz

• Mistral AI API Fiyatlandırması vs. Sansürsüz Token Başına Ödeme API'si
• Sansürsüz Mistral API: Token Başı Ödeme