Mistral AI API मूल्य निर्धारण बनाम एक बिना सेंसर वाले पे-पर-टोकन API
Mistral अपने मॉडल के लिए अपने दरें निर्धारित करता है और समय के साथ उन्हें बदलता है, इसलिए यह पृष्ठ मूल्य सूची की प्रतिलिपि नहीं बनाता। यह दिखाता है कि अपनी वर्कलोड को कैसे मूल्य निर्धारित करें और एक स्वतंत्र पे-पर-टोकन API पर उसी वर्कलोड की लागत क्या है।
अपडेट किया गया:
मुख्य बिंदु
- प्रति टोकन बिल इनपुट टोकन गुणा इनपुट दर जमा आउटपुट टोकन गुणा आउटपुट दर होता है।
- इस API में प्रीपेड क्रेडिट से $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन का शुल्क लगता है।
- विफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है, और क्रेडिट कभी समाप्त नहीं होता।
- तुलना करने से पहले Mistral के वर्तमान मूल्य निर्धारण पृष्ठ की जाँच करें, क्योंकि दरें मॉडल के अनुसार भिन्न होती हैं और बदलती हैं।
संक्षिप्त उत्तर
यदि आप Mistral AI API की कीमतें खोज रहे हैं, तो ईमानदार जवाब यह है कि कोई एक संख्या नहीं है। Mistral प्रत्येक मॉडल की अलग कीमत तय करता है, आमतौर पर इनपुट टोकन के लिए एक दर और आउटपुट टोकन के लिए उच्चतर दर होती है, और सूची बदलती रहती है जब नए मॉडल जुड़ते या पुराने हटाए जाते हैं। उनकी कीमत पेज पर जाएं, वह मॉडल चुनें जिसे आप वास्तव में कॉल करना चाहते हैं, और 1M टोकन प्रति दोनों दरें नोट करें।
इस साइट पर API में एक मॉडल और एक कीमत है: $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन। आप प्रीपेड क्रेडिट टॉप-अप करते हैं, इसे खर्च करते हैं, और कुछ नवीनीकृत नहीं होता है। इस लेख का शेष भाग आपको सूत्र, उन दो दरों पर एक सेट किए गए उदाहरण, और एक छोटा स्क्रिप्ट देता है जो आपके स्वयं के ट्रैफ़िक को मापता है, ताकि आप किसी अन्य विक्रेता की संख्याओं को हमारे साथ रख सकें और डॉलर में अंतर देख सकें।
पहली बात तय करने के लिए: यह आधिकारिक Mistral API नहीं है। यह एक स्वतंत्र सेवा है जो एक ओपन-वेट मॉडल चलाती है, कानूनी वयस्क उपयोग के लिए बिना सेंसर जवाब देने के लिए ट्यून्ड। यदि आपको विशिष्ट आधिकारिक Mistral मॉडल की आवश्यकता है, तो यह गलत उत्पाद है और नीचे दी गई तुलना उसमें बदलाव नहीं लाएगी।
प्रति टोकन बिल कैसे बनाया जाता है
एक भाषा मॉडल API टेक्स्ट को टोकन में गिनता है, जो शब्द के टुकड़े होते हैं। एक छोटा अंग्रेजी शब्द अक्सर एक टोकन होता है और एक लंबा या असामान्य शब्द कई टोकन होता है। आप दो धाराओं के लिए भुगतान करते हैं: टोकन जो आप भेजते हैं (प्रॉम्प्ट, सिस्टम संदेश और चैट इतिहास सहित) और टोकन जो मॉडल वापस लिखता है (कम्प्लीशन)। आउटपुट टोकन महंगे होते हैं क्योंकि उन्हें जनरेट करने में प्रॉम्प्ट को पढ़ने की तुलना में अधिक कंप्यूट की आवश्यकता होती है।
सूत्र हर जगह समान है:
cost = input_tokens / 1,000,000 x input_rate + output_tokens / 1,000,000 x output_rate
दो आदतें अनुमानों को अधिक सटीक बनाती हैं। पहला, हर कॉल पर पूरा प्रॉम्प्ट गिनें। एक चैट एप्लिकेशन हर टर्न पर पूरा इतिहास फिर से भेजता है, इसलिए एक बातचीत में दसवां संदेश इनपुट के रूप में पहले नौ संदेशों को ले जाता है। दूसरा, याद रखें कि कॉन्टेक्स्ट विंडो साझा है: यहाँ यह प्रॉम्प्ट और कम्प्लीशन दोनों के लिए 100,000 टोकन है, और एक कम्प्लीशन प्रॉम्प्ट द्वारा छोड़े गए मुक्त स्थान का उपयोग कर सकता है।
$0.15 और $0.50 पर हल किए गए उदाहरण
नीचे दी गई तालिका इस API की दरों का उपयोग करती है। प्रत्येक पंक्ति अंकगणित दिखाती है, ताकि आप किसी अन्य विक्रेता की दरों को बदल सकें और इसे फिर से कर सकें।
| वर्कलोड | इनपुट / आउटपुट टोकन | गणित | लागत |
|---|---|---|---|
| एक चैट टर्न | 2,000 / 500 | 0.0003 + 0.00025 | $0.00055 |
| 10,000 चैट टर्न | 20M / 5M | 3.00 + 2.50 | $5.50 |
| एक लंबे दस्तावेज़ का सारांश | 50,000 / 1,000 | 0.0075 + 0.0005 | $0.008 |
| पूरी विंडो को एक बार भरें | 98,000 / 2,000 | 0.0147 + 0.001 | $0.0157 |
| छोटा एप, एक महीना | 5M / 2M | 0.75 + 1.00 | $1.75 |
| भीड़भाड़ वाला एप, एक महीना | 200M / 50M | 30.00 + 25.00 | $55.00 |
तीसरी पंक्ति पर ध्यान दें। 50,000 टोकन वाले दस्तावेज़ को पढ़ने का खर्च एक सेंट से कम है, क्योंकि इनपुट सस्ता पक्ष है। महंगा पक्ष लंबे जवाब हैं। एक कार्यभार जो बहुत सारा टेक्स्ट जनरेट करता है, जैसे कथा, रोलप्ले या बल्क ड्राफ्टिंग, $0.50 दर से प्रभावित होता है, इसलिए अपने आउटपुट वॉल्यूम का सावधानी से अनुमान लगाएं और प्रॉम्प्ट की संख्या से परे देखें।
बजट को अनुरोधों में बदलना
न्यूनतम टॉप-अप $20 है। ऊपर बताए गए चैट-टर्न के आकार ($0.00055 प्रति टर्न) पर यह लगभग 36,000 टर्न है। बड़े टॉप-अप में बोनस होता है: $50 से +5%, $100 से +10% और $200 से +15%। इसलिए $50 से $52.50 का क्रेडिट मिलता है, $100 से $110, और $200 से $230। टॉप-अप $20 से $500 तक किसी भी पूर्ण राशि पर होते हैं।
हेडलाइन दर के अलावा क्या तुलना करें
एक ही प्रति टोकन दर वाले दो API फिर भी बहुत अलग मात्रा में खर्च कर सकते हैं। ये वे आइटम हैं जिन्हें किसी भी कीमत पृष्ठ पर, हमारे समेत, जाँचने योग्य माना जाता है।
- किस मॉडल के लिए आप भुगतान कर रहे हैं। यदि आपको उत्तरों को पुनः चलाना है, तो छोटे मॉडल पर कम दर बचत नहीं है। प्रत्येक उम्मीदवार पर अपने प्रॉम्प्ट का परीक्षण करें।
- अस्वीकृति और पुनः प्रयास। यदि कोई मॉडल एक वैध अनुरोध अस्वीकार कर देता है और आपको फिर से लिखकर भेजना पड़ता है, तो अधिकांश सेवाओं में अतिरिक्त प्रयासों के लिए आपको भुगतान करना पड़ता है। यहाँ विफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है।
- बिलिंग मॉडल। सब्सक्रिप्शन के बिना प्रीपेड क्रेडिट का मतलब है कि निष्क्रिय महीने की कोई लागत नहीं है। यहाँ क्रेडिट कभी समाप्त नहीं होता।
- मुफ्त अनुदान। मुफ्त टियर का उद्देश्य चीजों को आज़माना है और आमतौर पर इसमें कड़े रेट लिमिट होते हैं। यहाँ उपलब्ध ट्रायल क्रेडिट के लिए API कुंजी कैसे प्राप्त करें देखें, और जांचें कि Mistral वर्तमान में अपनी ओर से क्या प्रदान करता है।
- रेट लिमिट। यदि लॉन्च पर आप छत तक पहुँच जाते हैं, तो कम कीमत का कोई फायदा नहीं है। यहाँ एक पूर्ण कुंजी 8 समानांतर अनुरोध और प्रति मिनट 300 अनुरोध की अनुमति देती है; एक ट्रायल कुंजी 2 और 60 की अनुमति देती है।
- न्यूनतम खर्च। प्रीपेड सेवाओं की एक न्यूनतम सीमा होती है। हमारी $20 है।
जब Mistral की अपनी API बेहतर विकल्प है
कभी-कभी सही उत्तर वेंडर के साथ रहना है। यदि आपको किसी नीति या पुनरुत्पादन योग्यता के कारण उनके नामित मॉडलों में से किसी एक की आवश्यकता है, यदि आपको एम्बेडिंग, इमेज इनपुट या फाइन-ट्यूनिंग जैसी विशेषताओं की आवश्यकता है जिन्हें यह सेवा प्रदान नहीं करता है, या यदि आपकी कंपनी को मॉडल के निर्माता के साथ अनुबंध और सहायता शर्तों की आवश्यकता है, तो सीधे Mistral चुनें। यह API केवल टेक्स्ट है: चैट पूर्णताएँ और एक मॉडल सूची, कुछ और नहीं।
इस तरह के एक स्वतंत्र एंडपॉइंट को चुनें जब निर्णायक कारक अलग हों: आपको कानूनी वयस्कों के उपयोग के लिए बिना सामग्री अस्वीकृति वाले उत्तर चाहिए, आप प्रीपेड शेष राशि से टोकन के लिए भुगतान करना पसंद करते हैं, या आपके पास OpenAI SDK के खिलाफ लिखा गया कोड है और आप एक क्लाइंट को फिर से लिखने के बजाय दो सेटिंग्स बदलना चाहते हैं। uncensored Mistral-शैली API पर पेज मॉडल पक्ष के बारे में अधिक विस्तार से समझाता है।
यहाँ एक कठोर सीमा भी है जिसे स्पष्ट रूप से बताना है: सेवा नाबालिगों से जुड़ी यौन सामग्री उत्पन्न नहीं करती है, किसी भी फ्रेमिंग के तहत, और कोई भी प्राइसिंग टियर इसे नहीं बदलती है।
निर्णय लेने से पहले अपनी स्वयं की ट्राफिक मापें
एक टेबल से अनुमान केवल इतने ही जा सकते हैं। बेहतर विधि वास्तविक प्रॉम्प्ट का एक दिन भेजना और API द्वारा रिपोर्ट किए गए टोकन गणना को पढ़ना है। प्रत्येक नॉन-स्ट्रीमिंग रिस्पॉन्स में एक usage ऑब्जेक्ट होता है, और स्ट्रीम किए गए रिस्पॉन्स अंत में उपयोग रिपोर्ट करते हैं। नीचे दिया गया स्क्रिप्ट एक बैच को जोड़ता है और इस API की दरों पर बिल प्रिंट करता है। तुलना करने के लिए, दो दर स्थिरांकों को किसी अन्य वेंडर द्वारा वर्तमान में सूचीबद्ध किसी भी चीज़ में बदलें।
from openai import OpenAI
client = OpenAI(
base_url="https://api.mistralapi.com/v1",
api_key="YOUR_API_KEY",
)
IN_RATE = 0.15 # dollars per 1M input tokens
OUT_RATE = 0.50 # dollars per 1M output tokens
prompts = [
"Summarize the plot of Hamlet in five sentences.",
"Write a product description for a steel water bottle.",
"Explain what a mutex is to a new developer.",
]
tin = tout = 0
for p in prompts:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": p}],
)
tin += r.usage.prompt_tokens
tout += r.usage.completion_tokens
cost = tin / 1e6 * IN_RATE + tout / 1e6 * OUT_RATE
print(f"in={tin} out={tout} cost=${cost:.6f}")
print("per 1,000 requests: $%.4f" % (cost / len(prompts) * 1000))इसे अपने वास्तविक लॉग से कुछ सौ प्रॉम्प्ट्स पर चलाएं, न कि तीन टॉय प्रॉम्प्ट्स पर। फिर इसे अपने मासिक अनुरोध गणना से गुणा करें। X-Balance-USD रिस्पॉन्स हेडर हर कॉल के बाद आपके शेष क्रेडिट को भी दिखाता है, जो आपके द्वारा गणना की गई संख्याओं के खिलाफ एक उपयोगी क्रॉस-चेक है। पूर्ण अनुरोध विवरण क्विकस्टार्ट में हैं, और वर्तमान रेट कार्ड प्राइसिंग पेज पर है।
तीन बजट, तीन प्रकार के उपयोगकर्ता
अमूर्त दरों को महसूस करना कठिन है, इसलिए यहाँ तीन यथार्थवादी प्रोफ़ाइल हैं, प्रत्येक की गणना 1M टोकन के लिए $0.15 और $0.50 पर की गई है।
शौकिया
एक व्यक्ति जो दिन में आधे घंटे चैट करता है, लगभग 30 टर्न, प्रत्येक में 3,000 इनपुट टोकन और 300 आउटपुट टोकन के साथ। एक टर्न की लागत 0.00045 + 0.00015 = $0.0006 है। 30 दिनों के लिए दिन में 30 टर्न 900 टर्न होते हैं, इसलिए महीने के लिए $0.54। $20 का सबसे छोटा टॉप-अप उस गति से वर्षों तक चलेगा, और चूंकि क्रेडिट कभी समाप्त नहीं होता, यह कोई समस्या नहीं है।
सहायता बॉट
एक छोटी दुकान जो दिन में 1,500 टिकट का जवाब देती है, प्रत्येक में 1,200 इनपुट टोकन (नीति पाठ और ग्राहक संदेश) और 250 आउटपुट टोकन के साथ। एक टिकट की लागत 0.00018 + 0.000125 = $0.000305 है। एक दिन $0.4575 है, और एक 30-दिन का महीना लगभग $13.73 आता है। यहाँ सिस्टम प्रॉम्प्ट सबसे बड़ा इनपुट लागत है, इसलिए इसे छोटा करने से सीधे लाभ होता है।
बैच प्रोसेसर
एक पाइपलाइन जो 100,000 दस्तावेज़ों को टैग करती है, प्रत्येक 2,000 टोकन इन और 200 टोकन आउट। इनपुट 200M टोकन है, जो $30.00 है। आउटपुट 20M टोकन है, जो $10.00 है। पूरा काम $40.00 है, और आप इसे चलाने से पहले एक नमूना गुणा करके बिल देख सकते हैं।
ये प्रोफ़ाइल दिखाती हैं कि केवल रेट कार्ड काफी क्यों नहीं है। शौकिया न्यूनतम टॉप-अप के बारे में चिंतित है, सहायता बॉट प्रॉम्प्ट लंबाई के बारे में, और बैच काम आउटपुट दर और कंकरेंसी लिमिट के बारे में। एक पूर्ण कुंजी एक साथ 8 अनुरोध की अनुमति देती है, इसलिए 100,000 दस्तावेज़ों का बैच थ्रूपुट के रूप में ही नहीं बल्कि कीमत के रूप में भी एक प्रश्न है।
कीमतों की तुलना करते समय सामान्य गलतियाँ
- केवल इनपुट दर की तुलना करना। अधिकांश अनुप्रयोग अपनी अधिकांश राशि आउटपुट पर खर्च करते हैं। हमेशा दोनों कॉलम की तुलना करें।
- इतिहास वृद्धि को अनदेखा करना। एक लंबे मेमोरी वाली चैट समान शुरुआती संदेशों को बार-बार भेजती है। यदि लागत मायने रखती है तो पुराने टर्न को काटें या सारांशित करें।
- सिस्टम प्रॉम्प्ट को भूल जाना। 1,500-टोकन का इन्सट्रक्शन ब्लॉक हर एक अनुरोध पर इनपुट के रूप में बिल किया जाता है।
- एक टोकनाइज़र से टोकन का उपयोग करके दूसरे का अनुमान लगाना। विभिन्न मॉडल टेक्स्ट को अलग-अलग तरीके से बांटते हैं। API द्वारा लौटाए गए काउंट का उपयोग करें, न कि शब्द गिनती को अनुमान से गुणा करें।
- मुफ्त अनुदान को प्रोडक्शन क्षमता के साथ भ्रमित करना। एक फ्री टियर यह सवाल जवाब करता है कि "क्या यह काम करता है?" यह दुर्लभ ही यह जवाब करता है कि "क्या यह असली ट्रैफिक के तहत टिक पाएगा?"
अधिक गाइड
प्रश्न और उत्तर
Mistral API का टोकन प्रति खर्च कितना है?
यह मॉडल पर निर्भर करता है और समय के साथ बदलता रहता है, इसलिए अपनी योजना के अनुसार मॉडल के लिए Mistral की वर्तमान कीमत पृष्ठ देखें। यह API इनपुट टोकन के प्रति 1M पर $0.15 और आउटपुट टोकन के प्रति 1M पर $0.50 चार्ज करता है।
क्या यह आधिकारिक Mistral API है?
नहीं। यह एक स्वतंत्र, OpenAI-संगत सेवा है जो एक ओपन-वेट मॉडल चलाती है जिसे कानूनी वयस्कों के उपयोग के लिए बिना सामग्री अस्वीकृतियों के उत्तर देने के लिए ट्यून्ड किया गया है। यह Mistral या किसी अन्य मॉडल विक्रेता द्वारा संचालित नहीं है।
क्या कोई सब्सक्रिप्शन या मासिक न्यूनतम है?
कोई सदस्यता नहीं। आप $20 से $500 तक प्रीपेड क्रेडिट जोड़ते हैं और प्रति टोकन खर्च करते हैं। क्रेडिट कभी समाप्त नहीं होता।
क्या मुझे विफल या अस्वीकृत अनुरोधों के लिए भुगतान करना पड़ता है?
नहीं। विफल या अस्वीकृत अनुरोधों पर कोई शुल्क नहीं लगाया जाता।
टॉप-अप करने से पहले इसे आज़माने का तरीका क्या है?
नए उपयोगकर्ता साइन-अप के बाद API कुंजी पेज पर एक क्लिक के साथ $0.50 का ट्रायल क्रेडिट क्लेम कर सकते हैं। इसके लिए कार्ड की आवश्यकता नहीं है और यह 7 दिनों के लिए वैध है।
आपकी कुंजी बस एक फॉर्म भरना बाकी है
एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।
