中文 ▾
获取 API 密钥

Mistral API 免费层:限制与预付替代方案

免费层很好地回答了一个问题:这个模型是否适合我的想法。但它回答第二个问题很差:它能否承载真实流量。以下是如何评估 Mistral API 免费层,以及小额试用加预付额度在此如何运作。

更新时间:

小型测试沙盒与更大平台之间的等距门,说明从免费试用转向付费 API 的过程

要点

  • 免费层专为测试构建,因此预期会有更严格的速率限制和可能变化的条款。
  • 请阅读 Mistral 的当前文档以获取请求上限、适用模型和数据处理方式,因为本页面未引用这些内容。
  • 此处试用:$0.50,一键领取,无需绑卡,7 天有效期,2 个并发请求和每分钟 60 个请求。
  • 此处生产环境:预付额度从 $20 起,8 个并发请求和每分钟 300 个请求。

对 Mistral API 免费层的预期

大多数搜索 Mistral API 免费额度的人想知道三件事:他们能获得多少请求、包含哪些模型,以及超出额度后会发生什么。Mistral 决定这三项,且数字经常调整,因此任何复制到此类文章中的数据很快就会过时。打开他们的文档和计费页面,直接阅读当前限制。

你可以预测的是结构。行业内的免费配额往往具有一些共同特征:比付费计划更低的速率限制、每个周期内 token 或请求的上限、关于提示词使用方式的条款,以及在繁忙时段没有容量保证。这些都不是批评。免费层是一种营销和测试工具,对此任务效果良好。

当原型悄悄变成产品时,这就成了问题。当你的应用拥有真实用户时,你需要可预测的限制、可见的余额,以及对“如果模型拒绝一个完全合法的请求会发生什么”这一问题的答案。页面的其余部分涵盖如何为此时刻制定计划。

阅读任何免费层条款的检查清单

在使用免费额度构建任何内容之前,请先从提供商的页面回答以下问题。记下答案和日期,因为这些内容会发生变化。

  1. 请求限制是多少? 查找每分钟请求数、每分钟 token 数以及任何月度上限,作为单独的数字。
  2. 涵盖哪些模型? 免费访问有时仅适用于某些模型。
  3. 数据可用于训练吗? 某些服务的免费使用条款与付费使用不同。阅读隐私部分,而不是定价部分。
  4. 允许商业使用吗? 某些免费计划仅用于评估。
  5. 升级路径是什么? 了解付费账户的成本以及限制是否立即提升。
  6. 内容规则是什么? 如果你的用例是小说、角色扮演或其他合法的成人向写作,请在投入时间编写提示词之前,检查模型如何处理这些内容。

最后一项是许多人最终转向不同服务的原因。内置拒绝功能的模型可能通过你的前十个测试提示词,然后拒绝第十一个,而免费层几乎没有空间让你围绕此进行实验。

此处的试用,以数字呈现

该 API 独立于 Mistral,提供小额试用而非永久免费层级。新用户通过 Google 或电子邮件和密码注册,然后点击一次 API 密钥页面领取 $0.50 的信用额度。无需绑定银行卡。有效期为 7 天,每人限领一次。

试用密钥的运行限制低于付费密钥:2 个并发请求和每分钟 60 个请求。这对于测试脚本、SillyTavern 风格的聊天客户端或小批量作业绰绰有余,但对于公共应用则不够。

$0.50 能买什么

Token 价格为输入每 1M $0.15,输出每 1M $0.50。一些具体的预算:

  • 仅输入无输出:$0.50 / 每百万 token $0.15 约为 333 万 token 的提示词。
  • 仅输出:$0.50 / 每百万 token $0.50 正好是 100 万 token 的生成文本。
  • 典型的少量请求输入 1,000 个 token,输出 300 个 token,成本为 0.00015 + 0.00015 = $0.0003。因此 $0.50 可以覆盖约 1,666 次此类请求。
  • 长文档请求输入 20,000 个 token,输出 1,000 个 token,成本为 0.003 + 0.0005 = $0.0035,因此可以覆盖约 142 次此类请求。

实际上,这足以运行来自你自己用例的几百个真实提示词,这正是评估所需要的。如果答案不符合你的要求,你只损失了 50 美分,且从未存放过银行卡。

从试用过渡到生产环境

当试用生效时,下一步是预付充值,金额为 $20 至 $500 之间的任意整数金额。没有订阅,且信用额度永不过期,因此充值最低金额并放置一个月不会产生额外费用。较大金额会获得奖励:$50 起 +5%,$100 起 +10%,$200 起 +15%。因此,充值 $200 将为您提供 $230 的信用额度。

已充值的密钥将限制提高到 8 个并发请求和每分钟 300 个请求。以上述少量请求的大小(每次 $0.0003)计算,$20 的充值可覆盖约 66,000 次请求:20 / 0.0003 等于 66,666。完整费率卡请参见 定价页面。

支付方式为加密货币(TRC20 上的 USDT,Base 上的 USDC)。

你感受最明显的差异是可预测性。与其担心共享的免费配额今天是否被节流,你拥有以美元计的余额、每个响应中显示余额的标头,以及两个记录的限制。失败或被拒绝的请求不会计费,因此服务器端的糟糕一天不会消耗你的额度。

代码:运行试用并监控余额

该 API 遵循 OpenAI 聊天格式,因此您现有的 SDK 可与新的 Base URL 和密钥配合使用。此脚本发送一个请求,打印答案并从 X-Balance-USD 标头读取剩余余额。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.mistralapi.com/v1",
    api_key="YOUR_API_KEY",
)

raw = client.chat.completions.with_raw_response.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Give me three names for a fantasy tavern."}],
    max_tokens=200,
)
resp = raw.parse()

print(resp.choices[0].message.content)
print("tokens in/out:", resp.usage.prompt_tokens, resp.usage.completion_tokens)
print("balance left: $", raw.headers.get("X-Balance-USD"))

运行几次,你会看到余额以美分的小数变化。这是在承诺充值之前,了解你的提示词实际成本的最佳方式。如果你希望从 shell 执行相同操作:

curl -i https://api.mistralapi.com/v1/chat/completions   -H "Authorization: Bearer YOUR_API_KEY"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}],"max_tokens":20}'

-i 标志会打印响应标头,包括 X-Request-Id、X-Balance-USD 和两个 X-RateLimit-Limit 标头。如果您需要联系 支持,请保留请求 ID。

在不丢失请求的情况下处理速率限制

每个计划都有速率限制,无论是免费还是付费,因此只需编写一次重试逻辑。此 API 在三种情况下返回 HTTP 429。错误代码 rate_limited 表示你超过了每分钟请求数。代码 concurrency 表示同时进行的请求过多。带有 Retry-After: 5 标头的 429 表示临时过载。在所有三种情况下,正确的响应是等待并再次发送请求。

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.mistralapi.com/v1", api_key="YOUR_API_KEY")

def ask(prompt, tries=5):
    for attempt in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("still rate limited after retries")

在试用密钥上,将工作池保持在两个或更少。流式请求会占用其并发槽位直到流结束,因此两个长流可以阻塞第三个请求,即使你远低于每分钟 60 个。

试用的现实评估计划

如果花在正确的测试上,半美元能发挥很大作用。一个有效的计划:

  1. 收集 100 到 200 个真实提示词。 使用实际的用户消息、支持工单或项目中的故事开头,而不是虚构的例子。包括其他模型可能会拒绝的尴尬内容。
  2. 使用固定设置运行一次。 使用较低的 temperature,以便评估模型而非随机性。
  3. 手动阅读样本。 20 条回复足以发现模式。记录任何您不会发布的内容。
  4. 测量 token。 平均计算 usage 中的提示词和补全计数。
  5. 预估月度账单。将每次请求的成本乘以你的预期用量。

按规模计算:200 个提示词,输入 800 个 token,输出 400 个 token,使用 160,000 个输入 token($0.024)和 80,000 个输出 token($0.04),因此一次完整轮次的成本为 $0.064。您可以在 $0.50 的试用期内运行该测试集约七次,且 7 天的有效期通常不是限制因素。在轮次之间更改系统提示词是您将要做过的最便宜的调优。

如果回复不足以胜任你的任务,请提前终止试用。额度不会自动续期,且未绑定银行卡,因此无需取消。

选择适合你的方案

当您检查模型是否足够强大、编写教程或每天只有少量请求时,请使用免费额度。当其他人依赖输出、您需要提前了解限制,或您的用例位于更严格的模型可能会拒绝的位置时,请使用预付额度密钥。如果您来自现有的 Mistral 集成,快速入门 会用几行代码解释切换过程。

无论选择哪种方式,请牢记一条规则:该服务不会生成涉及未成年人的性内容,且任何层级或设置都不会改变这一点。

问答

Mistral 是否有免费 API 层级?

Mistral 决定免费访问的可用性及其条款,且这些条款会发生变化,因此请查阅其当前文档。本页面未引用其限制条件。

该网站的试用是否为永久免费层级?

不是。这是 $0.50 的信用额度,每人限领一次,有效期 7 天,无需绑定银行卡。之后如果您想继续使用,需从 $20 起充值。

试用密钥的限制是什么?

2 个并发请求和每分钟 60 个请求。预付额度密钥允许 8 个并发请求和每分钟 300 个请求。

我的提示词会用于训练吗?

不是。发送到此 API 的提示词不会用于训练。

额度用完会发生什么?

请求将停止,直到您充值。额度永不过期,因此您可以在需要时随时充值最低 $20。

只差一张表单,即可获得密钥

创建账户,复制密钥,更改基础 URL。这就是全部设置。

获取 API 密钥