ระดับฟรี API Mistral: ข้อจำกัดและทางเลือกแบบเติมเงิน ขีดจำกัดและทางเลือกแบบเติมเงิน

สิ่งที่คาดหวังได้จากระดับฟรี API Mistral

คนส่วนใหญ่ที่ค้นหา "mistral api free tier" ต้องการทราบสามสิ่ง: จำนวนคำขอที่ได้รับ โมเดลที่รวมอยู่ด้วย และสิ่งที่เกิดขึ้นเมื่อคุณเติบโตเกินกว่าระดับนี้ Mistral เป็นผู้กำหนดทั้งสามอย่างนี้ และตัวเลขเหล่านี้มีแนวโน้มที่จะถูกปรับ ดังนั้นตัวเลขใดๆ ที่คัดลอกมาลงในบทความเช่นนี้จะมีอายุสั้น เปิดหน้าเอกสารและหน้าการชำระเงินของพวกเขาแล้วอ่านขีดจำกัดปัจจุบันโดยตรง

สิ่งที่คุณสามารถคาดการณ์ได้คือรูปแบบ ระดับฟรีทั่วอุตสาหกรรมมักมีลักษณะร่วมกันไม่กี่อย่าง: ขีดจำกัดอัตราที่ต่ำกว่าแผนแบบเสียเงิน ขีดจำกัดจำนวนโทเคนหรือคำขอต่อช่วงเวลา เงื่อนไขเกี่ยวกับวิธีการใช้พรอมต์ และการไม่รับประกันความจุในช่วงเวลาที่มีผู้ใช้หนาแน่น สิ่งเหล่านี้ไม่ใช่ข้อตำหนิ ระดับฟรีเป็นเครื่องมือทางการตลาดและการทดสอบ และทำงานได้ดีสำหรับงานนั้น

มันจะกลายเป็นปัญหาเมื่อโปรโตไทป์เปลี่ยนไปเป็นผลิตภัณฑ์โดยไม่รู้ตัว วันที่แอปของคุณมีผู้ใช้จริง คุณต้องการขีดจำกัดที่คาดการณ์ได้ ยอดคงเหลือที่มองเห็นได้ และคำตอบสำหรับคำถามว่า "เกิดอะไรขึ้นหากโมเดลปฏิเสธคำขอที่ถูกต้องตามกฎหมาย?" ส่วนที่เหลือของหน้านี้ครอบคลุมวิธีการวางแผนสำหรับเหตุการณ์นั้น

รายการตรวจสอบสำหรับการอ่านข้อกำหนดของระดับฟรีใดๆ

ก่อนที่คุณจะสร้างสิ่งใดบนระดับฟรี ให้ตอบคำถามเหล่านี้จากหน้าของผู้ให้บริการเอง จดคำตอบพร้อมวันที่ เนื่องจากข้อมูลเหล่านี้เปลี่ยนแปลง

1. ขีดจำกัดคำขอคืออะไร? มองหาคำขอต่อนาที โทเคนต่อนาที และขีดจำกัดรายเดือนใดๆ เป็นตัวเลขแยกกัน
2. โมเดลใดที่ครอบคลุม? การเข้าถึงฟรีบางครั้งใช้ได้กับโมเดลบางตัวเท่านั้น
3. สามารถใช้ข้อมูลสำหรับการฝึกได้หรือไม่? การใช้ระดับฟรีในบางบริการมีเงื่อนไขข้อมูลที่แตกต่างกันจากการใช้งานแบบเสียเงิน อ่านส่วนความเป็นส่วนตัว ไม่ใช่ส่วนราคา
4. อนุญาตให้ใช้ในเชิงพาณิชย์หรือไม่? แผนฟรีบางแผนใช้สำหรับการประเมินเท่านั้น
5. เส้นทางการอัปเกรดคืออะไร? ค้นหาว่าบัญชีแบบเสียเงินมีราคาเท่าใด และขีดจำกัดเพิ่มขึ้นทันทีหรือไม่
6. กฎเกี่ยวกับเนื้อหาคืออะไร? หากกรณีการใช้งานของคุณเป็นนิยาย บทบาทสมมติ หรือการเขียนเนื้อหาผู้ใหญ่ที่ถูกต้องตามกฎหมาย ให้ตรวจสอบว่าโมเดลจัดการกับเนื้อหาเหล่านั้นอย่างไรก่อนที่คุณจะลงทุนเวลาในพรอมต์

รายการสุดท้ายนี้เป็นสาเหตุที่ทำให้หลายคนจบลงที่บริการอื่น โมเดลที่มีการปฏิเสธในตัวสามารถผ่านพรอมต์ทดสอบสิบครั้งแรกของคุณได้ แล้วปฏิเสธคำขอที่สิบเอ็ด และระดับฟรีให้คุณมีพื้นที่น้อยมากในการทดลองรอบๆ จุดนั้น

การทดลองใช้ที่นี่ ในรูปของตัวเลข

API นี้เป็นอิสระจาก Mistral และเสนอการทดลองใช้ขนาดเล็กแทนระดับฟรีถาวร ผู้ใช้ใหม่สมัครสมาชิกด้วย Google หรือด้วยอีเมลและรหัสผ่าน จากนั้นคลิกหนึ่งครั้งบนหน้า คีย์ API เพื่อรับเครดิต $0.50 ไม่ต้องใช้ขั้นตอนการใส่บัตรเครดิต มันมีอายุการใช้งาน 7 วัน และจำกัดหนึ่งครั้งต่อบุคคล

คีย์การทดลองใช้ทำงานภายใต้ขีดจำกัดที่ต่ำกว่าคีย์ที่มีการเติมเงิน: คำขอพร้อมกัน 2 คำขอและ 60 คำขอต่อนาที นั่นเพียงพอสำหรับการทดสอบสคริปต์ ไคลเอนต์แชทสไตล์ SillyTavern หรืองานแบทช์ขนาดเล็ก และไม่เพียงพอสำหรับแอปสาธารณะ

สิ่งที่ $0.50 ซื้อได้

ราคาโทเคนคือ $0.15 ต่อ 1M อินพุต และ $0.50 ต่อ 1M เอาต์พุต ตัวอย่างงบประมาณที่ชัดเจน:

• อินพุตทั้งหมด ไม่มีเอาต์พุต: $0.50 / $0.15 ต่อ 1M คือประมาณ 3.33M โทเคนของพรอมต์
• เอาต์พุตทั้งหมด: $0.50 / $0.50 ต่อ 1M คือ 1M โทเคนของข้อความที่สร้างได้พอดี
• คำขอขนาดเล็กทั่วไปที่มีอินพุต 1,000 โทเคนและเอาต์พุต 300 โทเคนมีค่าใช้จ่าย 0.00015 + 0.00015 = $0.0003 ดังนั้น $0.50 ครอบคลุมคำขอประมาณ 1,666 คำขอ
• คำขอเอกสารยาวที่มีอินพุต 20,000 โทเคนและเอาต์พุต 1,000 โทเคนมีค่าใช้จ่าย 0.003 + 0.0005 = $0.0035 ดังนั้นประมาณ 142 คำขอ

ในทางปฏิบัติ จำนวนนี้เพียงพอสำหรับรันพรอมต์จริงหลายร้อยรายการจากกรณีการใช้งานของคุณเอง ซึ่งตรงกับสิ่งที่การประเมินผลต้องการ หากคำตอบไม่ใช่สิ่งที่ต้องการ คุณเสียเพียง 50 เซนต์ และไม่มีบัตรใดถูกเก็บไว้เป็นข้อมูล

การย้ายจากช่วงทดลองไปใช้งานจริง

เมื่อการทดลองใช้งานสำเร็จ ขั้นตอนถัดไปคือการเติมเครดิตแบบเติมเงินล่วงหน้าจำนวนเต็มใดๆ ตั้งแต่ $20 ถึง $500 ไม่มีระบบสมาชิก และเครดิตไม่หมดอายุ ดังนั้นการเติมเงินขั้นต่ำและปล่อยทิ้งไว้หนึ่งเดือนจะไม่เสียค่าใช้จ่ายเพิ่ม จำนวนเงินที่มากขึ้นจะเพิ่มโบนัส: +5% จาก $50, +10% จาก $100, +15% จาก $200 ดังนั้นการเติมเงิน $200 จะให้คุณได้เครดิต $230

คีย์ที่เติมเงินแล้วจะเพิ่มขีดจำกัดเป็นคำขอพร้อมกัน 8 คำขอ และ 300 คำขอต่อนาที ด้วยขนาดคำขอขนาดเล็กข้างต้น ($0.0003 ต่อรายการ) การเติมเงิน $20 จะครอบคลุมคำขอประมาณ 66,000 รายการ: 20 / 0.0003 คือ 66,666 สำหรับการ์ดราคาเต็ม โปรดดูหน้าราคา

การชำระเงินทำได้ด้วยคริปโต (USDT บน TRC20, USDC บน Base)

ความแตกต่างที่คุณจะรู้สึกได้ชัดเจนที่สุดคือความสามารถในการคาดการณ์ แทนที่จะสงสัยว่าโควตาฟรีที่ใช้ร่วมกันจะถูกจำกัดความเร็วในวันนี้หรือไม่ คุณจะมียอดคงเหลือเป็นดอลลาร์ มีเฮดเดอร์ในทุกรายการตอบกลับที่แสดงยอดคงเหลือดังกล่าว และขีดจำกัดที่ระบุไว้ชัดเจน คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน ดังนั้นปัญหาฝั่งเซิร์ฟเวอร์ในวันหนึ่งจะไม่ทำให้เครดิตของคุณลดลง

โค้ด: รันการทดลองและดูยอดคงเหลือ

API นี้ปฏิบัติตามรูปแบบแชทของ OpenAI ดังนั้น SDK ที่มีอยู่ของคุณจึงทำงานได้กับ Base URL และคีย์ใหม่ สคริปต์นี้ส่งคำขอหนึ่งรายการ พิมพ์คำตอบ และอ่านยอดคงเหลือที่เหลือจากเฮดเดอร์ X-Balance-USD

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.mistralapi.com/v1",
    api_key="YOUR_API_KEY",
)

raw = client.chat.completions.with_raw_response.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Give me three names for a fantasy tavern."}],
    max_tokens=200,
)
resp = raw.parse()

print(resp.choices[0].message.content)
print("tokens in/out:", resp.usage.prompt_tokens, resp.usage.completion_tokens)
print("balance left: $", raw.headers.get("X-Balance-USD"))

รันสคริปต์นี้หลายครั้ง คุณจะเห็นยอดคงเหลือเปลี่ยนแปลงในหน่วยเศษของเซ็นต์ วิธีนี้คือวิธีที่ดีที่สุดในการสร้างความเข้าใจเกี่ยวกับต้นทุนที่แท้จริงของพรอมต์ของคุณ ก่อนที่จะตัดสินใจเติมเงิน หากคุณต้องการทำสิ่งเดียวกันจาก shell:

Copycurl -i https://api.mistralapi.com/v1/chat/completions   -H "Authorization: Bearer YOUR_API_KEY"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}],"max_tokens":20}'

แฟลก -i จะพิมพ์ส่วนหัวของคำตอบ รวมถึง X-Request-Id, X-Balance-USD และส่วนหัว X-RateLimit-Limit สองรายการ เก็บ ID คำขอไว้หากคุณ ever ติดต่อ support

การจัดการขีดจำกัดอัตราโดยไม่สูญเสียคำขอ

มีขีดจำกัดในทุกแพ็กเกจ ทั้งแบบฟรีและแบบเสียเงิน ดังนั้นให้เขียน retry logic เพียงครั้งเดียว API นี้จะตอบกลับด้วย HTTP 429 ในสามสถานการณ์ รหัสข้อผิดพลาด rate_limited หมายถึงคุณใช้คำขอเกินต่อนาที รหัส concurrency หมายถึงมีคำขอมากเกินไปที่กำลังดำเนินการอยู่พร้อมกัน 429 พร้อม header Retry-After: 5 หมายถึงการ overload ชั่วคราว ในทั้งสามกรณี การตอบสนองที่ถูกต้องคือรอแล้วส่งคำขออีกครั้ง

Copyimport time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.mistralapi.com/v1", api_key="YOUR_API_KEY")

def ask(prompt, tries=5):
    for attempt in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("still rate limited after retries")

สำหรับคีย์ทดลอง โปรดจำกัดชุดผู้ทำงาน (worker pool) ไว้ที่สองหรือน้อยกว่า คำขอแบบสตรีมจะยึดช่องความพร้อมใช้งานไปจนกว่าการสตรีมจะเสร็จสิ้น ดังนั้นสตรีมยาวสองสตรีมสามารถบล็อกคำขอที่สามได้ แม้ว่าคุณจะอยู่ต่ำกว่า 60 คำขอต่อนาทีก็ตาม

แผนการประเมินผลที่เป็นจริงสำหรับการทดลอง

เงินครึ่งดอลลาร์มีค่ามากหากคุณใช้กับการทดสอบที่เหมาะสม แผนการทำงานที่ดี:

1. รวบรวมพรอมต์จริง 100 ถึง 200 รายการ ใช้ข้อความผู้ใช้จริง บัตรสนับสนุน หรือตัวเริ่มต้นเรื่องราวจากโปรเจกต์ของคุณ ไม่ใช่ตัวอย่างที่สร้างขึ้น รวมถึงข้อความที่แปลกประหลาดซึ่งโมเดลอื่นอาจปฏิเสธ
2. รันคำขอเหล่านั้นหนึ่งครั้งด้วยการตั้งค่าคงที่ ใช้ค่า temperature ต่ำเพื่อให้คุณกำลังประเมินโมเดล ไม่ใช่การสุ่ม
3. อ่านตัวอย่างด้วยตนเอง คำตอบยี่สิบรายการก็เพียงพอที่จะระบุรูปแบบ หมายเหตุคำตอบใดๆ ที่คุณจะไม่ส่งออกไปใช้งาน
4. วัดจำนวนโทเคน หาค่าเฉลี่ยของจำนวน prompt และ completion จาก usage
5. ประมาณการบิลรายเดือน คูณต้นทุนต่อคำขอด้วยปริมาณที่คาดไว้ของคุณ

เพื่อให้เห็นภาพ: 200 พรอมต์ ขนาด 800 โทเคนเข้าและ 400 โทเคนออก ใช้โทเคนอินพุต 160,000 ($0.024) และโทเคนเอาต์พุต 80,000 ($0.04) ดังนั้นการรันหนึ่งรอบเต็มใช้ $0.064 คุณอาจรันชุดทดสอบนั้นประมาณเจ็ดครั้งภายในเครดิตทดลอง $0.50 และระยะเวลา 7 วันมักไม่ใช่ข้อจำกัด การเปลี่ยนพรอมต์ระบบระหว่างการรันเป็นการปรับแต่งที่ราคาถูกที่สุดที่คุณเคยทำ

หยุดการทดลองแต่เนิ่นๆ หากคำตอบไม่เพียงพอสำหรับงานของคุณ ไม่มีอะไรต่ออายุ และไม่ได้ป้อนบัตรใดๆ ดังนั้นจึงไม่มีอะไรให้ยกเลิก

เส้นทางใดที่เหมาะกับคุณ

ใช้ระดับฟรีเมื่อคุณกำลังตรวจสอบว่าโมเดลมีความสามารถเพียงพอหรือไม่ เมื่อคุณกำลังเขียนคู่มือ หรือเมื่อปริมาณเป็นเพียงไม่กี่คำขอต่อวัน ใช้คีย์แบบเติมเงินเมื่อผู้อื่นพึ่งพาผลลัพธ์ เมื่อคุณต้องการรู้ขีดจำกัดของคุณล่วงหน้า หรือเมื่อ กรณีการใช้งานของคุณอยู่ในจุดที่โมเดลที่เข้มงวดกว่าอาจปฏิเสธ คู่มือ quickstart อธิบายการสลับในไม่กี่บรรทัดหากคุณกำลังมาจากการผสานรวม Mistral ที่มีอยู่

จดจำกฎข้อเดียวไม่ว่าคุณจะเลือกอะไร: บริการไม่สร้างเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ และไม่มีระดับหรือการตั้งค่าใดที่เปลี่ยนแปลงกฎนี้

คู่มือเพิ่มเติม

• ราคา API ของ Mistral AI เทียบกับ API แบบจ่ายตามโทเคนที่ไม่เซ็นเซอร์
• API Mistral แบบไม่เซ็นเซอร์: จ่ายตามโทเคน