Camada gratuita da API Mistral: limites e alternativa pré-paga

O que esperar da camada gratuita da API Mistral

A maioria das pessoas que pesquisa pela camada gratuita da API mistral quer saber três coisas: quantas requisições elas recebem, quais modelos estão incluídos e o que acontece quando elas superam o limite. A Mistral decide tudo isso, e os números são do tipo que são ajustados, então qualquer valor copiado para um artigo como este ficaria desatualizado rapidamente. Acesse a documentação e as páginas de faturamento deles e leia os limites atuais diretamente.

O que você pode prever é a forma. As cotas gratuitas em toda a indústria tendem a compartilhar alguns traços: limites de requisições mais baixos que os planos pagos, um limite de tokens ou requisições por período, termos sobre como os prompts podem ser usados e nenhuma promessa de capacidade durante horários de pico. Nada disso é uma crítica. Um plano gratuito é uma ferramenta de marketing e teste, e funciona bem para esse trabalho.

Torna-se um problema quando um protótipo se transforma silenciosamente em um produto. No dia em que seu aplicativo tiver usuários reais, você quer limites previsíveis, um saldo que você possa ver e uma resposta para a pergunta "o que acontece se o modelo recusar uma solicitação perfeitamente lícita?" O resto desta página cobre como planejar para esse momento.

Uma lista de verificação para ler os termos de qualquer camada gratuita

Antes de construir qualquer coisa em uma cota gratuita, responda a essas perguntas nas próprias páginas do provedor. Anote as respostas com a data, porque elas mudam.

1. Qual é o limite de requisições? Procure por requisições por minuto, tokens por minuto e qualquer limite mensal, como números separados.
2. Quais modelos estão cobertos? O acesso gratuito às vezes se aplica apenas a alguns modelos.
3. Os dados podem ser usados para treinamento? O uso gratuito em alguns serviços vem com termos de dados diferentes do uso pago. Leia a seção de privacidade, não a de preços.
4. O uso comercial é permitido? Alguns planos gratuitos são apenas para avaliação.
5. Qual é o caminho de upgrade? Descubra quanto custa uma conta paga e se os limites aumentam imediatamente.
6. Quais são as regras de conteúdo? Se o seu caso de uso for ficção, roleplay ou outra escrita voltada para adultos que seja legal, verifique como o modelo lida com isso antes de investir tempo em prompts.

O último item é a razão pela qual muitas pessoas acabam em um serviço diferente. Um modelo com recusas integradas pode passar nos seus primeiros dez prompts de teste e depois recusar o décimo primeiro, e um plano gratuito oferece pouco espaço para experimentar em torno disso.

O período de teste aqui, em números

Esta API é independente da Mistral e oferece um pequeno teste em vez de uma camada gratuita permanente. Novos usuários se cadastram com Google ou com um e-mail e senha, então clicam uma vez na página da chave de API para obter $0,50 de crédito. Não há etapa de cartão. É válido por 7 dias e limitado a um por pessoa.

A chave de teste opera sob limites mais baixos do que uma financiada: 2 requisições simultâneas e 60 requisições por minuto. Isso é suficiente para testar um script, um cliente de chat estilo SillyTavern ou um trabalho em lote pequeno, e não é suficiente para um aplicativo público.

O que $0,50 compra

Os preços dos tokens são $0,15 por 1M de entrada e $0,50 por 1M de saída. Alguns orçamentos concretos:

• Apenas entrada, sem saída: $0,50 / $0,15 por 1M são cerca de 3,33M de tokens de prompt.
• Apenas saída: $0,50 / $0,50 por 1M são exatamente 1M de tokens de texto gerado.
• Uma solicitação pequena típica de 1.000 tokens de entrada e 300 de saída custa 0,00015 + 0,00015 = $0,0003. Então $0,50 cobre cerca de 1.666 delas.
• Uma solicitação de documento longo de 20.000 tokens de entrada e 1.000 de saída custa 0,003 + 0,0005 = $0,0035, ou seja, cerca de 142 delas.

Na prática, isso é suficiente para executar algumas centenas de prompts reais do seu próprio caso de uso, que é exatamente o que uma avaliação precisa. Se as respostas não forem o que você deseja, você perdeu 50 centavos e nenhum cartão foi registrado.

Passando da avaliação para produção

Quando o teste funciona, o próximo passo é um recarregamento pré-pago de qualquer valor inteiro de $20 a $500. Não há assinatura e o crédito nunca expira, então recarregar o mínimo e deixá-lo parado por um mês não custa nada a mais. Valores maiores adicionam um bônus: +5% a partir de $50, +10% a partir de $100, +15% a partir de $200. Um recarregamento de $200, portanto, dá a você $230 de crédito.

Uma chave financiada eleva os limites para 8 requisições simultâneas e 300 requisições por minuto. Com o tamanho de requisição pequeno acima ($0,0003 cada), uma recarga de $20 cobre cerca de 66.000 requisições: 20 / 0,0003 é 66.666. Para a tabela de preços completa, consulte a página de preços.

O pagamento é feito por cripto (USDT na TRC20, USDC na Base).

A diferença que você sentirá mais é a previsibilidade. Em vez de se perguntar se uma permissão gratuita compartilhada está sendo limitada hoje, você tem um saldo em dólares, um cabeçalho em cada resposta que o mostra e dois limites documentados. Uma solicitação falhada ou recusada não é cobrada, então um dia ruim no lado do servidor não consome seu crédito.

Código: execute o teste e acompanhe o saldo

A API segue o formato de chat da OpenAI, então seu SDK existente funciona com uma nova URL base e chave. Este script envia uma solicitação, imprime a resposta e lê o saldo restante do cabeçalho X-Balance-USD.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.mistralapi.com/v1",
    api_key="YOUR_API_KEY",
)

raw = client.chat.completions.with_raw_response.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Give me three names for a fantasy tavern."}],
    max_tokens=200,
)
resp = raw.parse()

print(resp.choices[0].message.content)
print("tokens in/out:", resp.usage.prompt_tokens, resp.usage.completion_tokens)
print("balance left: $", raw.headers.get("X-Balance-USD"))

Execute-o algumas vezes e você verá o saldo mudar por frações de centavo. Essa é a melhor maneira de criar uma sensação do que seus prompts realmente custam antes de se comprometer com um recarregamento. Se você quiser a mesma coisa a partir do shell:

Copycurl -i https://api.mistralapi.com/v1/chat/completions   -H "Authorization: Bearer YOUR_API_KEY"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}],"max_tokens":20}'

A sinalização -i imprime os cabeçalhos de resposta, incluindo X-Request-Id, X-Balance-USD e os dois cabeçalhos X-RateLimit-Limit. Mantenha o ID da solicitação se entrar em contato com suporte.

Lidando com limites de requisições sem perder requisições

Os limites existem em todos os planos, gratuitos ou pagos, então escreva a lógica de retry uma vez. Esta API responde com HTTP 429 em três situações. O código de erro rate_limited significa que você excedeu as requisições por minuto. O código concurrency significa que havia muitas requisições em andamento ao mesmo tempo. Um 429 com um cabeçalho Retry-After: 5 significa sobrecarga temporária. Em todos os três casos, a resposta correta é esperar e enviar a solicitação novamente.

Copyimport time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.mistralapi.com/v1", api_key="YOUR_API_KEY")

def ask(prompt, tries=5):
    for attempt in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("still rate limited after retries")

Na chave de teste, mantenha sua pool de workers em dois ou menos. Uma solicitação streaming mantém seu slot de concorrência até que o stream termine, então dois streams longos podem bloquear uma terceira solicitação mesmo que você esteja muito abaixo de 60 por minuto.

Um plano de avaliação realista para o teste

Meio dólar vai longe se você gastá-lo nos testes certos. Um plano que funciona bem:

1. Reúna 100 a 200 prompts reais. Use mensagens reais de usuários, tickets de suporte ou inícios de história do seu projeto, não exemplos inventados. Inclua os incômodos que outro modelo pode recusar.
2. Execute-os uma vez com configurações fixas. Use uma temperatura baixa para que você esteja julgando o modelo e não os dados aleatórios.
3. Leia uma amostra à mão. Vinte respostas são suficientes para identificar um padrão. Observe qualquer uma que você não enviaria.
4. Meça os tokens. Tire a média das contagens de prompt e conclusão de usage.
5. Projete a conta mensal. Multiplique o custo por solicitação pelo volume esperado.

Para ter uma noção da escala: 200 prompts com 800 tokens de entrada e 400 de saída consomem 160.000 tokens de entrada ($0,024) e 80.000 tokens de saída ($0,04), totalizando $0,064 por passagem completa. Você pode executar esse conjunto de testes cerca de sete vezes com um crédito de teste de $0,50, e a validade de 7 dias raramente é o limite. Alterar o prompt do sistema entre as passagens é o ajuste mais barato que você fará.

Encerre o teste antecipadamente se as respostas não forem boas o suficiente para sua tarefa. Nada é renovado e nenhum cartão foi inserido, portanto, não há nada a cancelar.

Qual rota atende você

Use o plano gratuito quando estiver verificando se um modelo é capaz o suficiente, ao escrever um tutorial ou quando o volume for de algumas requisições por dia. Use uma chave pré-paga quando outras pessoas dependerem da saída, quando você precisar conhecer seus limites com antecedência ou quando seu caso de uso estiver em uma área onde um modelo mais restritivo possa recusar. O quickstart cobre a troca em algumas linhas se você estiver vindo de uma integração existente com Mistral.

Mantenha uma regra em mente, independentemente da sua escolha: o serviço não gera conteúdo sexual envolvendo menores de idade, e nenhuma cota ou configuração altera isso.

Mais guias

• Preços da API Mistral AI vs. API sem censura por token
• Mistral API sem censura: pague por token