Cennik API Mistral AI vs bezcenzuralny API płatny za token

Krótka odpowiedź

Jeśli szukasz informacji o cenniku API Mistral AI, szczera odpowiedź brzmi: nie ma jednej liczby. Mistral wycenia każdy model osobno, zwykle z jedną stawką za tokeny wejściowe i wyższą za tokeny wyjściowe, a lista zmienia się wraz z dodawaniem lub wycofywaniem modeli. Otwórz ich stronę z cenami, wybierz model, którego faktycznie planujesz używać, i zapisz obie stawki za 1 mln tokenów.

API na tej stronie ma jeden model i jedną stawkę: $0,15 za 1 mln tokenów wejściowych i $0,50 za 1 mln tokenów wyjściowych. Doładowujesz przedpłacony kredyt, zużywasz go, a nic nie odnawia się. Reszta tego artykułu zawiera wzór, zestaw przykładowych obliczeń dla tych dwóch stawi i krótki skrypt, który mierzy Twój własny ruch, abyś mógł porównać liczby innego dostawcy z naszymi i zobaczyć różnicę w dolarach.

Jedną rzeczą do ustalenia na początku: to nie jest oficjalne API Mistral. Jest to niezależna usługa, która uruchamia jeden model o otwartych wagach, dostrojony do odpowiadania bez odmów treści dla prawnego użytku dorosłych. Jeśli potrzebujesz konkretnego oficjalnego modelu Mistral po nazwie, to jest to niewłaściwy produkt, a poniższe porównanie tego nie zmieni.

Jak buduje się rachunek za token

API modelu językowego liczy tekst w tokenach, czyli fragmentach słów. Krótkie słowo angielskie to często jeden token, a długie lub nietypowe słowo to kilka tokenów. Płacisz za dwa strumienie: tokeny, które wysyłasz (prompt, w tym wiadomość systemową i historię czatu) oraz tokeny, które model zwraca (uzupełnienie). Tokeny wyjściowe kosztują więcej, ponieważ ich generowanie wymaga więcej mocy obliczeniowej niż odczytanie promptu.

Wzór jest wszędzie taki sam:

cost = input_tokens / 1,000,000 x input_rate + output_tokens / 1,000,000 x output_rate

Dwa nawyki sprawiają, że szacunki są bardziej dokładne. Po pierwsze, zliczaj cały prompt przy każdym wywołaniu. Aplikacja czatu wysyła pełną historię w każdej turze, więc dziesiąta wiadomość w rozmowie zawiera jako dane wejściowe poprzednie dziewięć. Po drugie, pamiętaj, że okno kontekstu jest wspólne: tutaj wynosi 100 000 tokenów dla promptu i uzupełnienia łącznie, a uzupełnienie może wykorzystać dowolną liczbę tokenów, jaką pozostawi prompt.

Przykłady obliczeniowe w $0,15 i $0,50

Poniższa tabela używa stawek tego API. Każdy wiersz pokazuje obliczenia, więc możesz podstawić stawki innego dostawcy i przeliczyć je ponownie.

Obciążenie	Tokeny wej / wyj	Matematyka	Koszt
Jedna tura czatu	2,000 / 500	0.0003 + 0.00025	$0.00055
10 000 tur czatu	20M / 5M	3.00 + 2.50	$5.50
Podsumowanie jednego długiego dokumentu	50,000 / 1,000	0.0075 + 0.0005	$0.008
Wypełnienie całego okna raz	98,000 / 2,000	0.0147 + 0.001	$0.0157
Mała aplikacja, jeden miesiąc	5M / 2M	0.75 + 1.00	$1.75
Aktywna aplikacja, jeden miesiąc	200M / 50M	30.00 + 25.00	$55.00

Spójrz na trzeci wiersz. Przeczytanie dokumentu o objętości 50 000 tokenów kosztuje mniej niż centa, ponieważ dane wejściowe są tańszą stroną. Droższą stroną są długie odpowiedzi. Obciążenie generujące dużo tekstu, np. fikcja, roleplay lub masowe tworzenie dokumentów, jest zdominowane stawką $0,50, więc ostrożnie szacuj objętość danych wyjściowych i spójrz poza liczbę promptów.

Przekształcenie budżetu w zapytania

Najmniejsze doładowanie to $20. Przy rozmiarze tury czatu powyżej ($0.00055 za sztukę) daje to około 36 000 tur. Większe doładowania dają bonus: +5% od $50, +10% od $100 i +15% od $200. Czyli $50 daje $52,50 kredytu, $100 daje $110, a $200 daje $230. Doładowania to dowolna kwota całkowita od $20 do $500.

Co porównać poza główną stawką

Dwa API z tą samą stawką za token mogą kosztować bardzo różnie. Oto elementy warte sprawdzenia na każdej stronie z cenami, w tym naszej.

• Jaki model płacisz. Niższa stawka za mniejszy model nie jest oszczędnością, jeśli musisz ponownie generować odpowiedzi. Przetestuj własne prompty na każdym modelu.
• Odmowy i ponowne próby. Jeśli model odrzuci poprawne żądanie, a ty będziesz musiał je przeformułować i wysłać ponownie, na większości usług płacisz za dodatkowe próby. Tutaj nie pobieramy opłat za żądania nieudane lub odrzucone.
• Model rozliczeniowy. Przedpłacony kredyt bez subskrypcji oznacza, że miesiąc bezczynności nic nie kosztuje. Kredyt tutaj nigdy nie wygasa.
• Darmowy kredyt. Darmowe poziomy są przeznaczone do wypróbowywania funkcji i zwykle mają ścisłe limity zapytań. Zobacz jak uzyskać klucz API, aby poznać dostępny tu kredyt próbny, i sprawdź, co aktualnie oferuje Mistral po ich stronie.
• Limity zapytań. Niska cena nie ma znaczenia, jeśli trafisz na sufit przy starcie. Pełny klucz pozwala na 8 równoległych zapytań i 300 zapytań na minutę; klucz próbny pozwala na 2 i 60.
• Minimalny wydatek. Usługi z przedpłatą mają dolną granicę. Nasza to $20.

Kiedy własne API Mistral jest lepszym wyborem

Czasami właściwą odpowiedzią jest pozostanie u dostawcy. Wybierz Mistral bezpośrednio, jeśli potrzebujesz jednego z ich nazwanych modeli ze względu na politykę lub odtwarzalność, jeśli potrzebujesz funkcji, których ta usługa nie oferuje, takich jak embeddingi, przesyłanie obrazu lub dostrajanie, lub jeśli Twoja firma wymaga umowy i warunków wsparcia z twórcą modelu. To API obsługuje tylko tekst: uzupełnienia czatu i listę modeli, nic więcej.

Wybierz niezależny endpoint, taki jak ten, gdy kluczowe są inne czynniki: chcesz uzyskać odpowiedzi bez odrzucania treści dla poprawnego użytku dorosłego, wolisz płacić za tokeny z salda przedpłaconego kredytu lub masz już kod napisany zgodnie z SDK OpenAI i chcesz zmienić tylko dwa ustawienia zamiast przepisywać klienta. Strona API w stylu Mistral bez cenzury wyjaśnia szczegóły po stronie modelu.

Istnieje również sztywny limit wart jasnego stwierdzenia: usługa nie produkuje treści seksualnych z udziałem nieletnich, w żadnej formie, a żaden poziom cenowy tego nie zmienia.

Zmierz swój ruch przed podjęciem decyzji

Szacunki z tabeli idą tylko tak daleko. Lepszą metodą jest wysłanie dnia rzeczywistych promptów i odczytanie liczb tokenów, które raportuje API. Każda odpowiedź niebędąca strumieniowaniem zawiera obiekt usage, a odpowiedzi strumieniowane raportują użycie na końcu. Poniższy skrypt sumuje partię i drukuje fakturę według stawk tego API. Aby porównać, zmień dwie stałe stawkowe na dowolne wartości, które aktualnie podaje inny dostawca.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.mistralapi.com/v1",
    api_key="YOUR_API_KEY",
)

IN_RATE = 0.15   # dollars per 1M input tokens
OUT_RATE = 0.50  # dollars per 1M output tokens

prompts = [
    "Summarize the plot of Hamlet in five sentences.",
    "Write a product description for a steel water bottle.",
    "Explain what a mutex is to a new developer.",
]

tin = tout = 0
for p in prompts:
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": p}],
    )
    tin += r.usage.prompt_tokens
    tout += r.usage.completion_tokens

cost = tin / 1e6 * IN_RATE + tout / 1e6 * OUT_RATE
print(f"in={tin} out={tout} cost=${cost:.6f}")
print("per 1,000 requests: $%.4f" % (cost / len(prompts) * 1000))

Uruchom go na kilku setkach promptów z Twoich rzeczywistych logów, a nie na trzech przykładowych. Następnie pomnóż przez miesięczną liczbę zapytań. Nagłówek odpowiedzi X-Balance-USD pokazuje również pozostały kredyt po każdym wywołaniu, co jest wygodnym sposobem na weryfikację obliczonych liczb. Pełne szczegóły zapytania znajdziesz w poradniku szybkiego startu, a aktualna lista stawkowa znajduje się na stronie z cenami.

Trzy budżety, trzy rodzaje użytkowników

Stawki abstrakcyjne trudno poczuć, więc oto trzy realistyczne profile, każdy obliczony przy $0,15 i $0,50 za 1 mln tokenów.

Hobbysta

Osoba, która czatuje pół godziny dziennie, około 30 tur z 3000 tokenami wejściowymi i 300 tokenami wyjściowymi każda. Jedna tura kosztuje 0,00045 + 0,00015 = $0,0006. Trzydzieści tur dziennie przez 30 dni to 900 tur, więc $0,54 za miesiąc. Najmniejsze doładowanie $20 starczyłoby na lata w tym tempie, a ponieważ kredyt nigdy nie wygasa, nie jest to problem.

Bot wsparcia

Mały sklep odpowiadający na 1500 zgłoszeń dziennie, każde z 1200 tokenami wejściowymi (tekst polityki plus wiadomość klienta) i 250 tokenami wyjściowymi. Jedno zgłoszenie kosztuje 0,00018 + 0,000125 = $0,000305. Dzień to $0,4575, a 30-dniowy miesiąc daje około $13,73. Tutaj prompt systemowy jest największym kosztem wejściowym, więc jego skrócenie opłaca się bezpośrednio.

Procesor wsadowy

Potok, który oznacza 100 000 dokumentów, każdy o objętości 2000 tokenów wejściowych i 200 tokenów wyjściowych. Dane wejściowe to 200 mln tokenów, co daje $30,00. Dane wyjściowe to 20 mln tokenów, co daje $10,00. Całe zadanie kosztuje $40,00, a fakturę możesz zobaczyć przed uruchomieniem, mnożąc próbkę.

Te profile pokazują, dlaczego sama lista stawek nie wystarczy. Hobbyista dba o minimalną kwotę doładowania, bot wsparcia o długość promptu, a zadanie batchowe o stawkę wyjściową i limit równoległych zapytań. Pełny klucz pozwala na 8 zapytań jednocześnie, więc partia 100 000 dokumentów to kwestia przepustowości w takim samym stopniu co ceny.

Typowe błędy przy porównywaniu cen

• Porównywanie tylko stawki wejściowej. Wiele aplikacji wydaje większość pieniędzy na wyjście. Zawsze porównuj obie kolumny.
• Ignorowanie wzrostu historii. Czat z długą pamięcią wysyła te same początkowe wiadomości ponownie i ponownie. Ogranicz lub podsumuj stare tury, jeśli zależy Ci na koszcie.
• Zapominanie o promptie systemowym. Blok instrukcji o objętości 1500 tokenów jest rozliczany jako dane wejściowe przy każdym pojedynczym zapytaniu.
• Używanie tokenów z jednego tokenizera do szacowania drugiego. Różne modele dzielą tekst inaczej. Używaj liczb zwracanych przez API, a nie liczby słów pomnożonej przez przybliżony współczynnik.
• Mylenie darmowego limitu z wydajnością produkcyjną. Darmowy plan odpowiada na pytanie „czy to działa?”. Rzadko odpowiada na pytanie „czy to wytrzyma prawdziwym ruchem?”

Więcej przewodników

• Darmowy Plan API Mistral: Limity i alternatywa z doładowaniem
• Mistral API bez cenzury: Płatność za token