Бесплатный тариф Mistral API: лимиты и альтернатива с предоплатой

Чего ожидать от бесплатного тарифа Mistral API

Большинство людей, ищущих бесплатный тариф Mistral API, хотят знать три вещи: сколько запросов они получают, какие модели включены и что происходит, когда они перерастают этот тариф. Mistral решает все три вопроса, а такие цифры регулярно меняются, поэтому любая цифра, скопированная в статью вроде этой, быстро устареет. Откройте их документацию и страницы биллинга и прочитайте текущие лимиты напрямую.

Что вы можете предсказать — это структуру. Бесплатные лимиты во всей отрасли обычно имеют несколько общих черт: более низкие лимиты запросов по сравнению с платными планами, ограничение на токены или запросы за период, условия использования промптов и отсутствие гарантий доступных мощностей в часы пик. Это не критика. Бесплатный тариф — это инструмент маркетинга и тестирования, и он отлично справляется со своей задачей.

Проблема возникает, когда прототип незаметно превращается в продукт. В день, когда ваше приложение получит реальных пользователей, вам нужны предсказуемые лимиты, баланс, который вы можете видеть, и ответ на вопрос: «Что произойдет, если модель откажется обрабатывать совершенно законный запрос?». В остальной части страницы рассказывается, как подготовиться к этому моменту.

Чек-лист для чтения условий любого бесплатного тарифа

Прежде чем что-либо строить на бесплатных условиях, ответьте на эти вопросы на собственных страницах провайдера. Запишите ответы с датой, так как они меняются.

1. Каков лимит запросов? Ищите запросы в минуту, токены в минуту и любые месячные ограничения как отдельные числа.
2. Какие модели охвачены? Бесплатный доступ иногда применяется только к некоторым моделям.
3. Можно ли использовать данные для обучения? Бесплатное использование в некоторых сервисах имеет другие условия использования данных, чем платное. Прочитайте раздел конфиденциальности, а не раздел ценообразования.
4. Разрешено ли коммерческое использование? Некоторые бесплатные планы предназначены только для оценки.
5. Как перейти на платный тариф? Узнайте, сколько стоит платный аккаунт и увеличиваются ли лимиты сразу.
6. Каковы правила контента? Если ваш сценарий использования — художественная литература, ролевые игры или другой взрослый контент, который является законным, проверьте, как модель с ним справляется, прежде чем вкладывать время в промпты.

Последний пункт — причина, по которой многие люди оказываются на другом сервисе. Модель со встроенными отказами может пройти ваши первые десять тестовых промптов, а затем отклонить одиннадцатый, а бесплатный тариф даёт вам мало места для экспериментов вокруг этого.

Пробный период здесь в цифрах

Этот API не зависит от Mistral и предлагает небольшой пробный баланс вместо постоянного бесплатного тарифа. Новые пользователи входят через Google или по email и паролю, затем один раз нажимают на странице API-ключ, чтобы получить $0.50 кредита. Шаг с картой не требуется. Он действителен 7 дней и ограничен одним на человека.

Ключ для пробного периода работает с более низкими лимитами, чем у пополненного: 2 параллельных запроса и 60 запросов в минуту. Этого достаточно для тестирования скрипта, чат-клиента в стиле SillyTavern или небольшой пакетной обработки, но недостаточно для публичного приложения.

Что можно купить за $0,50

Цены на токены: $0,15 за 1M входных и $0,50 за 1M выходных. Некоторые конкретные бюджеты:

• Только ввод, без вывода: $0,50 / $0,15 за 1M — это около 3,33M токенов промпта.
• Только вывод: $0,50 / $0,50 за 1M — это ровно 1M токенов сгенерированного текста.
• Типичный небольшой запрос из 1000 токенов на вход и 300 на выход стоит 0,00015 + 0,00015 = $0,0003. Так что $0,50 покрывает около 1666 таких запросов.
• Запрос длинного документа из 20000 токенов на вход и 1000 на выход стоит 0,003 + 0,0005 = $0,0035, так что около 142 таких запросов.

На практике этого достаточно, чтобы запустить несколько сотен реальных промптов из вашего сценария использования, что именно и нужно для оценки. Если ответы вам не нравятся, вы потеряли 50 центов, и карта никогда не была привязана.

Переход от пробного периода к продакшну

Когда пробный баланс работает, следующий шаг — предоплаченное пополнение на любую целую сумму от $20 до $500. Подписки нет, а кредит никогда не сгорает, поэтому пополнение на минимальную сумму и оставление его на месяц не приводит к дополнительным расходам. Большие суммы добавляют бонус: +5% от $50, +10% от $100, +15% от $200. Пополнение на $200 поэтому даёт вам $230 кредита.

Пополненный ключ повышает лимиты до 8 параллельных запросов и 300 запросов в минуту. При размере запроса, указанном выше ($0,0003 каждый), пополнение на $20 покрывает около 66000 запросов: 20 / 0,0003 — это 66666. Полный прайс-лист см. на странице ценообразования.

Оплата криптовалютой (USDT на TRC20, USDC на Base).

Разница, которую вы почувствуете больше всего, — это предсказуемость. Вместо того чтобы гадать, не ограничен ли сегодня общий бесплатный лимит, у вас есть баланс в долларах, заголовок в каждом ответе, который его показывает, и два задокументированных лимита. Неудачный или отклонённый запрос не оплачивается, поэтому плохой день на стороне сервера не съедает ваш кредит.

Код: запустите пробный период и следите за балансом

API следует формату чата OpenAI, поэтому ваш существующий SDK работает с новым базовым URL и ключом. Этот скрипт отправляет один запрос, печатает ответ и читает оставшийся баланс из заголовка X-Balance-USD.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.mistralapi.com/v1",
    api_key="YOUR_API_KEY",
)

raw = client.chat.completions.with_raw_response.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Give me three names for a fantasy tavern."}],
    max_tokens=200,
)
resp = raw.parse()

print(resp.choices[0].message.content)
print("tokens in/out:", resp.usage.prompt_tokens, resp.usage.completion_tokens)
print("balance left: $", raw.headers.get("X-Balance-USD"))

Запустите его несколько раз, и вы увидите, как баланс меняется на доли цента. Это лучший способ сформировать понимание того, сколько на самом деле стоят ваши промпты, прежде чем вы решите пополнить счёт. Если вы хотите сделать то же самое из оболочки:

Copycurl -i https://api.mistralapi.com/v1/chat/completions   -H "Authorization: Bearer YOUR_API_KEY"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello."}],"max_tokens":20}'

Флаг -i печатает заголовки ответа, включая X-Request-Id, X-Balance-USD и два заголовка X-RateLimit-Limit. Сохраните идентификатор запроса, если вам когда-либо придется связаться с поддержкой.

Обработка лимитов запросов без потери запросов

Лимиты существуют в каждом плане, бесплатном или платном, поэтому напишите логику повторных попыток один раз. Этот API отвечает HTTP 429 в трех ситуациях. Код ошибки rate_limited означает, что вы превысили лимит запросов в минуту. Код concurrency означает, что слишком много запросов находились в процессе выполнения одновременно. 429 с заголовком Retry-After: 5 означает временную перегрузку. Во всех трех случаях правильный ответ — подождать и отправить запрос снова.

Copyimport time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.mistralapi.com/v1", api_key="YOUR_API_KEY")

def ask(prompt, tries=5):
    for attempt in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 * (attempt + 1))
    raise RuntimeError("still rate limited after retries")

На пробном ключе держите пул рабочих на уровне двух или меньше. Потоковый запрос удерживает слот параллельности до завершения потока, поэтому два длинных потока могут заблокировать третий запрос, даже если вы далеко ниже 60 в минуту.

Реалистичный план оценки для пробного периода

Полдоллара — это очень много, если потратить его на правильные тесты. План, который хорошо работает:

1. Соберите от 100 до 200 реальных промптов. Используйте реальные сообщения пользователей, тикеты поддержки или завязки историй из вашего проекта, а не выдуманные примеры. Включите те, которые другая модель может отклонить.
2. Запустите их один раз с фиксированными настройками. Используйте низкую температуру, чтобы вы оценивали модель, а не удачу.
3. Прочитайте выборку вручную. Двадцати ответов достаточно, чтобы заметить закономерность. Отметьте те, которые вы не стали бы выпускать.
4. Измерьте токены. Усредните количество токенов промпта и ответа из usage.
5. Спрогнозируйте ежемесячный счёт. Умножьте стоимость запроса на ожидаемый объём.

Для масштаба: 200 промптов по 800 токенов на входе и 400 на выходе используют 160 000 входных токенов (0.024 доллара) и 80 000 выходных токенов (0.04 доллара), поэтому один полный проход стоит $0.064. Вы можете запустить этот набор тестов около семи раз в рамках пробного баланса $0.50, а 7-дневный срок действия редко становится ограничением. Изменение системного промпта между проходами — это самая дешёвая настройка, которое вы когда-либо сделаете.

Прекратите пробный период досрочно, если ответы недостаточно хороши для вашей задачи. Ничего не продлевается автоматически, и карта не была введена, поэтому нечего отменять.

Какой вариант вам подходит

Используйте бесплатный тариф, когда вы проверяете, достаточно ли мощна модель, пишете учебное пособие или когда объём составляет несколько запросов в день. Используйте предоплаченный ключ, когда от вывода зависят другие люди, когда вам нужно заранее знать свои лимиты или когда ваш сценарий использования находится там, где более строгая модель может отказать. Быстрый старт описывает переход в нескольких строках, если вы переходите с существующей интеграции Mistral.

Имейте в виду одно правило независимо от вашего выбора: сервис не генерирует сексуальный контент с участием несовершеннолетних, и ни один тариф или настройка не меняют этого.

Дополнительные руководства

• Тарифы Mistral AI API против API с оплатой за токен без цензуры
• Mistral API без цензуры: оплата за токен