ราคา API Mistral AI เทียบกับ API จ่ายตามโทเคนแบบไม่เซ็นเซอร์ จ่ายตามโทเคนแบบไม่เซ็นเซอร์

คำตอบแบบสั้น

หากคุณกำลังค้นหาข้อมูลราคา API ของ Mistral คำตอบที่ตรงไปตรงมาคือไม่มีตัวเลขเดียวที่ตายตัว Mistral กำหนดราคาแต่ละโมเดลแยกกัน โดยปกติจะมีอัตราหนึ่งสำหรับโทเคนอินพุต และอัตราที่สูงกว่าสำหรับโทเคนเอาต์พุต และรายการนี้จะเปลี่ยนแปลงเมื่อมีการเพิ่มหรือเลิกใช้โมเดลใหม่ เปิดหน้าราคาของพวกเขา เลือกโมเดลที่คุณวางแผนจะเรียกใช้งานจริง และจดบันทึกอัตราทั้งสองต่อ 1M โทเคน

API ในเว็บไซต์นี้มีโมเดลเดียวและราคาเดียว: $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens คุณเติมเงิน prepaid credit และใช้จนหมด โดยไม่มีส่วนใดต่ออายุอัตโนมัติ บทความที่เหลือให้สูตร ชุดตัวอย่างการคำนวณที่อัตราสองราคานี้ และสคริปต์สั้นๆ ที่วัด traffic ของคุณ เพื่อให้คุณสามารถนำตัวเลขของผู้จัดจำหน่ายรายอื่นมาเทียบกับของเราและเห็นความแตกต่างเป็นดอลลาร์

สิ่งหนึ่งที่ต้องชี้แจงก่อน: นี่ไม่ใช่ API ทางการของ Mistral แต่เป็นบริการอิสระที่รันโมเดล open-weight model โมเดลเดียว ซึ่งปรับแต่งให้ตอบโดยไม่ปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย หากคุณต้องการโมเดลทางการเฉพาะของ Mistral ตามชื่อ นี่คือผลิตภัณฑ์ที่ไม่ถูกต้อง และการเปรียบเทียบด้านล่างจะไม่เปลี่ยนจุดนี้

วิธีการสร้างบิลตามโทเคน

API โมเดลภาษาจะนับข้อความในโทเคน ซึ่งเป็นชิ้นส่วนของคำ คำภาษาอังกฤษสั้นๆ มักเป็นหนึ่งโทเคน และคำที่ยาวหรือแปลกประหลาดมักเป็นหลายโทเคน คุณจ่ายสำหรับสองสตรีม: โทเคนที่คุณส่ง (พรอมต์ รวมถึงข้อความระบบและประวัติแชท) และโทเคนที่โมเดลเขียนกลับ (ผลลัพธ์ที่สร้าง) โทเคนเอาต์พุต มีราคาสูงกว่าเพราะการสร้างโทเคนเหล่านี้ใช้ทรัพยากรการคำนวณมากกว่าการอ่าน prompt

สูตรคือสิ่งเดียวกันในทุกที่:

cost = input_tokens / 1,000,000 x input_rate + output_tokens / 1,000,000 x output_rate

สองนิสัยทำให้การประมาณการแม่นยำขึ้น ประการแรก นับ prompt ทั้งหมดในทุก call แอปพลิเคชันแชทจะส่ง history เต็มกลับในทุกเทิร์น ดังนั้นข้อความที่สิบในการสนทนาจะถือข้อความเก้าข้อความแรกเป็น input ประการที่สอง จำไว้ว่า context window เป็นแบบแชร์: ที่นี่คือ 100,000 โทเคนสำหรับ prompt และ completion รวมกัน และ completion สามารถใช้พื้นที่ว่างที่เหลือจาก prompt ได้

ตัวอย่างการคำนวณที่ $0.15 และ $0.50

ตารางด้านล่างใช้อัตราของ API นี้ แต่ละแถวแสดงการคำนวณ เพื่อให้คุณสามารถเปลี่ยนเป็นอัตราของผู้ขายรายอื่นและคำนวณใหม่ได้

Workload	โทเคนเข้า/ออก	คณิตศาสตร์	ต้นทุน
หนึ่งรอบการแชท	2,000 / 500	0.0003 + 0.00025	$0.00055
10,000 เทิร์นแชท	20M / 5M	3.00 + 2.50	$5.50
สรุปเอกสารยาวหนึ่งฉบับ	50,000 / 1,000	0.0075 + 0.0005	$0.008
เติมเต็มหน้าต่างบริบทหนึ่งครั้ง	98,000 / 2,000	0.0147 + 0.001	$0.0157
แอปขนาดเล็ก หนึ่งเดือน	5M / 2M	0.75 + 1.00	$1.75
แอปใช้งานหนัก หนึ่งเดือน	200M / 50M	30.00 + 25.00	$55.00

ดูแถวที่สาม การอ่านเอกสารขนาด 50,000 โทเคนมีค่าน้อยกว่าหนึ่งเซ็นต์ เพราะอินพุตเป็นฝั่งที่ถูก ฝั่งที่มีราคาสูงคือคำตอบที่ยาว ปริมาณงานที่สร้างข้อความจำนวนมาก เช่น นิยาย การสวมบทบาท หรือการร่างเอกสารจำนวนมาก จะถูกครอบงำโดยอัตรา $0.50 ดังนั้นให้ประมาณการปริมาณผลลัพธ์อย่างระมัดระวังและพิจารณาเกินกว่าจำนวนพรอมต์

การเปลี่ยนงบประมาณเป็นคำขอ

การเติมเงินขั้นต่ำคือ $20 ที่ขนาดการสนทนาหนึ่งรอบข้างต้น ($0.00055 ต่อครั้ง) จะได้ประมาณ 36,000 เทิร์น การเติมเงินจำนวนมากขึ้นมีโบนัส: +5% จาก $50, +10% จาก $100 และ +15% จาก $200 ดังนั้น $50 ซื้อเครดิตได้ $52.50, $100 ซื้อได้ $110 และ $200 ซื้อได้ $230 การเติมเงินเป็นจำนวนเต็มใดๆ ตั้งแต่ $20 ถึง $500

สิ่งที่ควรเปรียบเทียบนอกจากราคาหลัก

API สองตัวที่มีอัตราต่อโทเคนเท่ากันอาจมีค่าใช้จ่ายแตกต่างกันมาก นี่คือรายการที่ควรตรวจสอบในหน้าราคาใดๆ รวมถึงของเรา

• โมเดลที่คุณกำลังจ่ายค่าใช้งาน อัตราที่ต่ำกว่าสำหรับโมเดลขนาดเล็กอาจไม่ใช่การประหยัดหากคุณต้องเรียกใช้คำตอบใหม่ การทดสอบพรอมต์ของคุณเองกับโมเดลแต่ละตัวที่สนใจจึงสำคัญ
• การปฏิเสธและการลองส่งคำขอซ้ำ หากโมเดลปฏิเสธคำขอที่ถูกต้องตามกฎหมายและคุณต้องแก้ไขข้อความและส่งใหม่ คุณต้องจ่ายสำหรับการลองส่งคำขอซ้ำเพิ่มเติมในบริการส่วนใหญ่ ที่นี่ คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกคิดเงิน
• โมเดลการเรียกเก็บเงิน เครดิตแบบเติมเงินล่วงหน้าโดยไม่มีค่าสมาชิกหมายความว่าเดือนที่ใช้งานน้อยจะมีค่าใช้จ่ายเป็นศูนย์ เครดิตที่นี่ไม่หมดอายุ
• วงเงินฟรี ระดับฟรีมีไว้สำหรับการทดลองใช้งานและมักมีขีดจำกัดอัตราที่จำกัด ดูวิธีรับคีย์ API เพื่อดูเครดิตทดลองใช้ที่มีที่นี่ และตรวจสอบสิ่งที่ Mistral นำเสนอในปัจจุบัน
• ขีดจำกัดอัตรา ราคาต่ำไม่มีประโยชน์หากคุณชนเพดานเมื่อเริ่มใช้งาน คีย์ปกติอนุญาตคำขอพร้อมกัน 8 คำขอและ 300 คำขอต่อนาที; คีย์ทดลองอนุญาต 2 และ 60
• ยอดใช้จ่ายขั้นต่ำ บริการแบบเติมเงินมีขั้นต่ำ ยอดของเราคือ $20

เมื่อ API ของ Mistral เป็นทางเลือกที่ดีกว่า

บางครั้งคำตอบที่เหมาะสมคือการอยู่กับผู้ขาย เลือกใช้ Mistral โดยตรงหากคุณต้องการโมเดลเฉพาะของพวกเขาสืบเนื่องมาจากนโยบายหรือความสามารถในการทำซ้ำ ต้องการฟีเจอร์ที่บริการนี้ไม่มีเช่น embeddings, การป้อนภาพ หรือ fine-tuning หรือหากบริษัทของคุณต้องการสัญญาและเงื่อนไขการสนับสนุนจากผู้ผลิตโมเดล API นี้มีเฉพาะข้อความ: chat completions และรายการโมเดล ไม่มีอื่น

เลือก endpoint ที่เป็นอิสระเช่นนี้เมื่อปัจจัยตัดสินใจแตกต่างกัน: คุณต้องการคำตอบโดยไม่ปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย คุณชอบจ่ายต่อโทเคนจากยอดเงิน prepaid หรือคุณมีโค้ดที่เขียนไว้กับ OpenAI SDK แล้วและต้องการเปลี่ยนการตั้งค่าสองอย่างแทนที่จะเขียน client ใหม่ หน้า API Mistral-style แบบไม่เซ็นเซอร์ อธิบายด้านโมเดลในรายละเอียดเพิ่มเติม

ยังมีขีดจำกัดที่ควรระบุอย่างชัดเจน: บริการไม่ผลิตเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ ไม่ว่าภายใต้บริบทใด และไม่มีระดับราคาใดที่เปลี่ยนแปลงสิ่งนี้

วัดปริมาณการใช้งานของคุณเองก่อนตัดสินใจ

การประมาณการจากตารางมีข้อจำกัด วิธีการที่ดีกว่าคือการส่งพรอมต์จริงหนึ่งวันและอ่านจำนวนโทเคนที่ API รายงาน ทุกการตอบกลับแบบไม่สตรีมมิงจะมีวัตถุusage และการตอบกลับแบบสตรีมมิงรายงานการใช้งานที่ส่วนท้าย สคริปต์ด้านล่างจะรวมกลุ่มและแสดงบิลที่อัตราของ API นี้ เพื่อเปรียบเทียบ ให้เปลี่ยนค่าคงที่อัตราสองค่าเป็น ค่าใดก็ตาม ที่ผู้ขายรายอื่นระบุในปัจจุบัน

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.mistralapi.com/v1",
    api_key="YOUR_API_KEY",
)

IN_RATE = 0.15   # dollars per 1M input tokens
OUT_RATE = 0.50  # dollars per 1M output tokens

prompts = [
    "Summarize the plot of Hamlet in five sentences.",
    "Write a product description for a steel water bottle.",
    "Explain what a mutex is to a new developer.",
]

tin = tout = 0
for p in prompts:
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": p}],
    )
    tin += r.usage.prompt_tokens
    tout += r.usage.completion_tokens

cost = tin / 1e6 * IN_RATE + tout / 1e6 * OUT_RATE
print(f"in={tin} out={tout} cost=${cost:.6f}")
print("per 1,000 requests: $%.4f" % (cost / len(prompts) * 1000))

รันสคริปต์กับพรอมต์หลายร้อยรายการจากบันทึกการใช้งานจริงของคุณ ไม่ใช่แค่สามรายการตัวอย่าง จากนั้นคูณด้วยจำนวนคำขอรายเดือนของคุณ ส่วนหัวการตอบกลับX-Balance-USD ยังแสดงยอดเงินคงเหลือของคุณหลังจากแต่ละการเรียก ซึ่งเป็นการตรวจสอบข้ามที่สะดวกกับตัวเลขที่คุณคำนวณ รายละเอียดคำขอทั้งหมดอยู่ในquickstart และบัตรอัตราปัจจุบันอยู่ที่หน้าราคา

สามงบประมาณ สามประเภทของผู้ใช้

อัตราแบบนามธรรมยากที่จะรู้สึก ดังนั้นนี่คือโปรไฟล์ที่สมจริงสามแบบ แต่ละแบบคำนวณที่ $0.15 และ $0.50 ต่อ 1M โทเคน

นักอดิเรก

บุคคลที่แชทวันละครึ่งชั่วโมง ประมาณ 30 รอบด้วย 3,000 โทเคนอินพุตและ 300 โทเคนเอาต์พุตต่อรอบหนึ่งรอบมีค่าใช้จ่าย 0.00045 + 0.00015 = $0.0006 30 รอบต่อวันเป็นเวลา 30 วันคือ 900 รอบ ดังนั้น $0.54 สำหรับเดือนนี้ การเติมเงินขั้นต่ำ $20 จะ อยู่ได้ หลายปีที่อัตราดังกล่าว และเนื่องจากเครดิตไม่หมดอายุ นั่นจึงไม่ใช่ปัญหา

บอทสนับสนุน

ร้านค้าขนาดเล็กตอบ 1,500 ติกเก็ตต่อวัน แต่ละรายการมี 1,200 โทเคนอินพุต (ข้อความนโยบายพร้อมข้อความลูกค้า) และ 250 โทเคนเอาต์พุต ติกเก็ตหนึ่งรายการมีค่าใช้จ่าย 0.00018 + 0.000125 = $0.000305 วันหนึ่งมีค่าใช้จ่าย $0.4575 และเดือน 30 วันมีค่าใช้จ่ายประมาณ $13.73 ที่นี่ระบบพรอมต์เป็นต้นทุนอินพุตที่ใหญ่ที่สุด ดังนั้นการลดความยาวจึงคุ้มค่าโดยตรง

ผู้ประมวลผลแบบแบตช์

สายการผลิตที่แท็กเอกสาร 100,000 รายการ แต่ละรายการมี 2,000 โทเคนอินพุตและ 200 โทเคนเอาต์พุต อินพุตคือ 200M โทเคน ซึ่งคือ $30.00 เอาต์พุตคือ 20M โทเคน ซึ่งคือ $10.00 งานทั้งหมดคือ $40.00 และคุณสามารถเห็นบิลก่อนรันโดยการคูณตัวอย่าง

โปรไฟล์เหล่านี้แสดงให้เห็นว่าทำไมบัตรอัตราเพียงอย่างเดียวจึงไม่เพียงพอ นักอดิเรกสนใจการเติมเงินขั้นต่ำ บอทสนับสนุนสนใจความยาวพรอมต์ และงานแบตช์สนใจอัตราเอาต์พุตและขีดจำกัดความพร้อมใช้งานแบบขนาน คีย์ปกติอนุญาต 8 คำขอพร้อมกัน ดังนั้นแบตช์ของเอกสาร 100,000 รายการจึงเป็นเรื่องของปริมาณงานมากกว่าราคา

ข้อผิดพลาดทั่วไปเมื่อเปรียบเทียบราคา

• การเปรียบเทียบเฉพาะอัตราอินพุต แอปพลิเคชันจำนวนมากใช้จ่ายเงินส่วนใหญ่กับเอาต์พุต เสมอเปรียบเทียบทั้งสองคอลัมน์
• การละเลยการเติบโตของประวัติ แชทที่มีหน่วยความจำยาวส่งข้อความเก่าซ้ำแล้วซ้ำอีก ตัดหรือสรุปย่อรอบเก่าหากต้นทุนสำคัญ
• การลืม system prompt บล็อกคำสั่งขนาด 1,500 token จะถูกคิดเป็น input ในทุก request
• การใช้ token จาก tokenizer ตัวหนึ่งเพื่อประมาณค่าอีกตัวหนึ่ง โมเดลต่างกันแบ่งข้อความไม่เหมือนกัน ให้ใช้จำนวนที่ API ส่งกลับมา ไม่ใช่การนับคำแล้วคูณกับค่าประมาณ
• การสับสนระหว่าง free allowance กับ production capacity Free tier ตอบคำถามว่า "ใช้งานได้ดีไหม" แต่ แทบไม่ ตอบคำถามว่า "จะรองรับ traffic จริงได้ไหม"

คู่มือเพิ่มเติม

• Mistral API Free Tier: ข้อจำกัดและทางเลือกแบบเติมเงิน
• API Mistral แบบไม่เซ็นเซอร์: จ่ายตามโทเคน