Сравнение цен API Mistral AI с API без цензуры, оплата за токен

Краткий ответ

Если вы ищете информацию о ценах API Mistral AI, честный ответ таков: единой цифры не существует. Mistral тарифицирует каждую модель отдельно, обычно с одной ставкой за входные токены и более высокой — за выходные, а список меняется при добавлении или выводе моделей. Откройте страницу цен, выберите модель, которую вы действительно планируете использовать, и запишите обе ставки за 1 млн токенов.

API на этом сайте предлагает одну модель и одну цену: $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов. Вы пополняете предоплаченный баланс, тратите его, и ничего не продлевается автоматически. В остальной части статьи вы найдёте формулу, набор примеров расчётов по этим ставкам и короткий скрипт, который измеряет ваш трафик, чтобы вы могли сопоставить цифры любого другого поставщика с нашими и увидеть разницу в долларах.

Один важный момент: это не официальный API Mistral. Это независимый сервис, использующий одну модель с открытыми весами, настроенную на ответы без отказов по контенту для законного использования взрослыми. Если вам нужна конкретная официальная модель Mistral по имени, это не тот продукт, и сравнение ниже это не изменит.

Как формируется счёт за токены

API языковой модели считает текст в токенах — фрагментах слов. Короткое английское слово часто является одним токеном, а длинное или необычное — несколькими. Вы платите за два потока: токены, которые вы отправляете (промпт, включая системное сообщение и историю чата), и токены, которые модель генерирует в ответ (завершение). Выходные токены стоят дороже, так как их генерация требует больше вычислений, чем чтение промпта.

Формула одинакова везде:

cost = input_tokens / 1,000,000 x input_rate + output_tokens / 1,000,000 x output_rate

Две привычки делают оценки точнее. Во-первых, считайте весь промпт при каждом вызове. В чат-приложении полная история отправляется на каждом шаге, поэтому десятое сообщение в разговоре включает первые девять в качестве входных данных. Во-вторых, помните, что контекстное окно общее: здесь оно составляет 100 000 токенов для промпта и генерации вместе, и генерация может использовать всё, что осталось свободным после промпта.

Примеры расчётов по $0,15 и $0,50

Таблица ниже использует тарифы этого API. Каждая строка показывает арифметику, чтобы вы могли подставить ставки другого поставщика и пересчитать.

Сценарий	Токены: вход / выход	Математика	Стоимость
Один диалоговый запрос	2,000 / 500	0.0003 + 0.00025	$0.00055
10 000 циклов чата	20 млн / 5 млн	3.00 + 2.50	$5.50
Краткое изложение одного длинного документа	50,000 / 1,000	0.0075 + 0.0005	$0.008
Заполнение всего окна один раз	98,000 / 2,000	0.0147 + 0.001	$0.0157
Малое приложение, один месяц	5 млн / 2 млн	0.75 + 1.00	$1.75
Активное приложение, один месяц	200 млн / 50 млн	30.00 + 25.00	$55.00

Посмотрите на третью строку. Чтение документа на 50 000 токенов стоит менее цента, так как входные данные — это дешёвая сторона. Дорогая сторона — длинные ответы. Нагрузка, генерирующая много текста, например художественная литература, ролевые игры или массовое создание черновиков, в основном зависит от ставки $0,50, поэтому тщательно оценивайте объём вывода и смотрите не только на количество промптов.

Перевод бюджета в запросы

Минимальное пополнение — $20. При размере цикла чата выше ($0,00055 за каждый) это около 36 000 циклов. Большие пополнения дают бонус: +5% от $50, +10% от $100 и +15% от $200. Так, $50 дают $52,50 баланса, $100 — $110, а $200 — $230. Пополнения возможны любой целой суммой от $20 до $500.

Что сравнивать помимо базовой ставки

Два API с одинаковой ставкой за токен могут стоить очень по-разному. Вот пункты, которые стоит проверить на любой странице цен, включая нашу.

• За какую модель вы платите. Более низкая ставка на меньшей модели не является экономией, если вам придётся перезапускать ответы. Протестируйте свои промпты на каждом варианте.
• Отказы и повторные попытки. Если модель отклоняет законный запрос, и вам нужно перефразировать и отправить снова, вы платите за дополнительные попытки в большинстве сервисов. Здесь неудачные или отклонённые запросы не тарифицируются.
• Модель биллинга. Предоплаченный баланс без подписки означает, что месяц простоя ничего не стоит. Баланс здесь не сгорает.
• Бесплатный лимит. Бесплатные тарифы предназначены для тестирования и обычно имеют строгие лимиты запросов. См. как получить API-ключ для получения пробного баланса, доступного здесь, и проверьте, что сейчас предлагает Mistral.
• Лимиты запросов. Низкая цена бесполезна, если вы упрётесь в потолок при запуске. Полный ключ позволяет 8 параллельных запросов и 300 запросов в минуту; пробный ключ — 2 и 60.
• Минимальный расход. У предоплаченных сервисов есть порог. Наш — $20.

Когда собственный API Mistral — лучший выбор

Иногда правильный ответ — остаться с поставщиком. Выбирайте Mistral напрямую, если вам нужна одна из их именованных моделей по причине политики или воспроизводимости, если нужны функции, которые не предлагает этот сервис, такие как эмбеддинги, ввод изображений или дообучение, или если вашей компании требуется договор и условия поддержки от создателя модели. Этот API поддерживает только текст: завершения чата и список моделей, ничего больше.

Выбирайте независимый эндпоинт, как этот, когда решающими факторами являются: вам нужны ответы без отказов по контенту для законного использования взрослыми, вы предпочитаете платить за токены с предоплаченного баланса или у вас уже есть код, написанный под SDK OpenAI, и вы хотите изменить две настройки, а не переписывать клиент. Страница об API в стиле Mistral без цензуры более подробно описывает модельную часть.

Также есть жёсткое ограничение, о котором стоит сказать прямо: сервис не генерирует сексуальный контент с участием несовершеннолетних ни при каком сценарии, и это не меняется в зависимости от тарифа.

Измерьте свой трафик перед принятием решения

Оценки по таблице имеют пределы. Более точный метод — отправить день реальных промптов и прочитать количество токенов, которое сообщает API. Каждый непотоковый ответ включает объект usage, а потоковые ответы сообщают об использовании в конце. Скрипт ниже суммирует пакет и выставляет счёт по ставкам этого API. Чтобы сравнить, измените две константы ставок на те, которые в настоящее время указывает другой поставщик.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.mistralapi.com/v1",
    api_key="YOUR_API_KEY",
)

IN_RATE = 0.15   # dollars per 1M input tokens
OUT_RATE = 0.50  # dollars per 1M output tokens

prompts = [
    "Summarize the plot of Hamlet in five sentences.",
    "Write a product description for a steel water bottle.",
    "Explain what a mutex is to a new developer.",
]

tin = tout = 0
for p in prompts:
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": p}],
    )
    tin += r.usage.prompt_tokens
    tout += r.usage.completion_tokens

cost = tin / 1e6 * IN_RATE + tout / 1e6 * OUT_RATE
print(f"in={tin} out={tout} cost=${cost:.6f}")
print("per 1,000 requests: $%.4f" % (cost / len(prompts) * 1000))

Запустите его на нескольких сотнях промптов из ваших реальных логов, а не на трёх тестовых. Затем умножьте на количество запросов в месяц. Заголовок ответа X-Balance-USD также показывает ваш оставшийся баланс после каждого вызова, что является удобным перекрёстным контролем вычисленных чисел. Полные детали запроса в кратком руководстве, а текущая таблица ставок на странице тарифов.

Три бюджета, три типа пользователей

Абстрактные ставки трудно ощутить, поэтому вот три реалистичных профиля, каждый рассчитан по $0,15 и $0,50 за 1 млн токенов.

Любитель

Человек, который общается по полчаса в день, примерно 30 ходов с 3 000 входными токенами и 300 выходными токенами каждый. Один ход стоит 0,00045 + 0,00015 = $0,0006. Тридцать ходов в день в течение 30 дней — это 900 ходов, то есть $0,54 за месяц. Минимальное пополнение в $20 хватило бы на годы при таком темпе, и поскольку баланс не сгорает, это не проблема.

Бот поддержки

Малый магазин, отвечающий на 1500 тикетов в день, каждый с 1200 входными токенами (текст политики плюс сообщение клиента) и 250 выходными токенами. Один тикет стоит 0,00018 + 0,000125 = $0,000305. День — $0,4575, а 30-дневный месяц — около $13,73. Здесь системный промпт — самая большая статья входных расходов, поэтому его сокращение напрямую экономит средства.

Пакетный процессор

Конвейер, который помечает 100 000 документов, каждый по 2 000 входных токенов и 200 выходных. Входные данные — 200 млн токенов, что составляет $30,00. Выходные данные — 20 млн токенов, что составляет $10,00. Вся задача стоит $40,00, и вы можете увидеть счёт перед запуском, умножив выборку.

Эти профили показывают, почему одной таблицы тарифов недостаточно. Любитель обращает внимание на минимальную сумму пополнения, бот поддержки — на длину промпта, а пакетная задача — на ставку за выходные токены и лимит параллельных запросов. Один полный ключ позволяет выполнять 8 запросов одновременно, поэтому обработка пакета из 100 000 документов зависит от пропускной способности не меньше, чем от цены.

Распространенные ошибки при сравнении цен

• Сравнение только входной ставки. Во многих приложениях большая часть расходов приходится на выходные данные. Всегда сравнивайте оба столбца.
• Игнорирование роста истории. В чате с длинной памятью ранние сообщения отправляются снова и снова. Обрезайте старые реплики или заменяйте их кратким пересказом, если важна стоимость.
• Забывание системного промпта. Блок инструкций на 1 500 токенов оплачивается как входные данные при каждом запросе.
• Использование токенов одного токенизатора для оценки другого. Разные модели разбивают текст по-разному. Используйте количество токенов, возвращаемое API, а не подсчёт слов, умноженный на предположение.
• Путаница между бесплатным лимитом и производственной мощностью. Бесплатный тариф отвечает на вопрос «работает ли это?». Он редко отвечает на вопрос «выдержит ли это реальный трафик?»

Дополнительные руководства

• Бесплатный тариф Mistral API: лимиты и альтернатива с предоплатой
• Mistral API без цензуры: оплата за токен