Cena AI API za token: kolik skutečně zaplatíš

Cena po tokenech znamená, že za text platíš podle objemu, a to dvěma různými sazbami: jednou za tokeny, které pošleš, a vyšší za tokeny, které model napíše zpátky. V Union AI to začíná na 0,40 € za milion vstupních tokenů na nejlevnější úrovni a končí na 12 € za milion výstupních tokenů na té nejvýkonnější, vše bez DPH. K API není vázané žádné předplatné, žádné měsíční minimum a žádná faktura, kterou bys sám nevyvolal.

Potíž je v tom, že milion tokenů není jednotka, kterou by kdokoli dokázal odhadnout od oka. Tenhle článek ho převádí na čísla, která si představit dokážeš, a to podle stejných cen, podle kterých měří náš router.

Kolik stojí milion tokenů?

Tady je celý ceník. Čtyři úrovně, u každé dvě sazby, v eurech a bez DPH.

Úroveň	Na co se hodí	Vstup za 1 mil.	Výstup za 1 mil.	Kontext
Lite	Klasifikace, extrakce, krátké odpovědi	0,40 €	1,60 €	131 tisíc tokenů
Standard	Tahoun: chat a většina provozu přes API	0,70 €	3,50 €	262 tisíc tokenů
Dlouhý kontext	Celé spisy, smlouvy, kódové báze	1,00 €	2,00 €	1 milion tokenů
Pro	Náročné uvažování, agenti, složitý kód	4,00 €	12,00 €	1 milion tokenů

Dvě věci v téhle tabulce lidi překvapují. Úroveň Dlouhý kontext je na výstupu levnější než tahoun, protože model stavěný na milion tokenů vstupu nemusí nutně nejlépe uvažovat. A rozdíl mezi nejlevnější a nejdražší úrovní je desetinásobný, takže volba úrovně pohne tvým účtem mnohem víc, než kdy dokáže ladění promptů.

Celou tabulku včetně kalkulačky a srovnání s americkými poskytovateli podle jejich ceníkových cen najdeš na stránce s ceníkem. Který open-weight model stojí za kterou úrovní a pod jakou licencí, je na stránce o transparentnosti AI.

Kolik tokenů má stránka, zpráva nebo kódová báze?

Token je kousek textu, který model čte nebo píše, obvykle běžné slovo nebo jeho část. Pro angličtinu platí hrubé pravidlo tisíc tokenů zhruba na 750 slov. Jiné jazyky se tokenizují méně efektivně, takže stejný text v nizozemštině, finštině nebo polštině stojí o něco víc.

Pár opěrných bodů, se kterými abstrakce dostane konkrétní tvar:

• Krátká otázka s odstavcem odpovědi: zhruba 300 tokenů na vstupu a 200 na výstupu.
• Středně dlouhá zpráva, trochu kontextu a propracovaná odpověď: asi 900 na vstupu a 500 na výstupu. Z tohoto předpokladu vychází každé číslo na naší stránce s ceníkem.
• Smlouva o 40 stranách: někde kolem 20 000 vstupních tokenů. Shrnutí jedné takové smlouvy na úrovni Standard stojí zlomek centu.
• Středně velká kódová báze, řekněme 5 000 řádků: pohodlně se vejde do okna 262 000 tokenů na úrovni Standard a k milionu na úrovni Dlouhý kontext má hodně daleko.

Když středně dlouhou zprávu spočítáš na úrovni Standard, tisíc takových zpráv vyjde na 2,38 €. To je číslo, které stojí za to si zapamatovat, protože mění celou otázku: pro většinu týmů není model tou drahou částí produktu.

Proč je výstup dražší než vstup?

Protože psát je pomalejší práce než číst. Vstupní tokeny projdou modelem v jednom paralelním průchodu, takže dlouhý prompt stojí zhruba tolik, kolik napovídá jeho délka, a nic navíc. Výstupní tokeny vycházejí jeden po druhém, každý závisí na tom předchozím a hardware je obsazený po celou dobu. Vyšší sazba za výstup je právě ten sériový čas.

Praktický důsledek je zvyk, který stojí za to si osvojit: omezuj výstup, ne vstup. Vložit do promptu celý dokument je obvykle levné. Chtít odpověď o tisíci slovech, když by stačilo sto, je to, co se na účtu opravdu projeví. Nastavení max_tokens je v API vůbec nejúčinnější kontrola nákladů a je to jeden řádek.

Je placení po tokenech levnější než předplatné?

Při malém objemu téměř vždy. Pár stovek zpráv měsíčně přes API stojí na úrovni Standard hluboko pod euro, kdežto jakékoli předplatné si účtuje stejnou pevnou částku, ať ho používáš, nebo ne. Pod tisíc zpráv měsíčně nemá předplatné proti ceně po tokenech šanci.

Obrázek se obrací ve třech případech, které si ve srovnání výše najdeš sám:

1. Dlouhé zprávy. Prompt o čtyřech tisících tokenů s dlouhou odpovědí stojí několikanásobek středně dlouhé zprávy a pevný poplatek přestává vypadat hloupě.
2. Drahá úroveň. Odpověď na úrovni Pro stojí z kreditu zhruba čtyřikrát tolik co odpověď na úrovni Standard a do měsíčního limitu předplatného chatu se počítá jako pět zpráv.
3. Chceš produkt, ne potrubí. Naše předplatné chatu stojí 13 € měsíčně, nebo 11 € měsíčně při roční platbě, za rozhraní, přílohy, dlouhé dokumenty a sdílené konverzace. Postavit si to sám nad API tě už první odpoledne vyjde na víc než 13 € tvého vlastního času.

Předplatné je sázka na to, jak drahá bude tvoje průměrná zpráva. Cena po tokenech je odmítnutí sázet.

Ani jeden model není poctivější než ten druhý. Cenu dělá poctivou to, jestli ji dokážeš předpovědět dřív, než se zavážeš, a proto náš odhad nákladů uvádí své předpoklady místo toho, aby ukázal přívětivě vypadající měsíční částku.

Co cena po tokenech skrývá

Čtyři věci, kvůli kterým se skutečné účty liší od prosté aritmetiky. Žádná z nich není trik a na všechny lidi naletí.

Historie konverzace se posílá znovu s každým tahem

Volání API je bezstavové. Desátý tah konverzace s sebou posílá tahy jedna až devět, takže vstupní tokeny rostou s délkou vlákna. Dlouhý chat může utratit víc za opakované čtení vlastní historie než za cokoli nového. Zkracovat nebo shrnovat staré tahy není předčasná optimalizace, je to hlavní páka.

Opakované pokusy a agenti násobí požadavky

Jedna akce uživatele ve smyčce agenta může znamenat dvacet volání modelu. Cenu za požadavek násob smyčkou, ne uživatelem. A pak si ověř, co se stane, když smyčka neskončí; k tomu slouží stropy z další části.

Hlavní sazby nejsou celý ceník

Poskytovatelé zveřejňují slevy na vstup z cache, dávkové úlohy a závazek útraty. Ty jsou skutečné a znamenají, že srovnání platí, jen pokud jsou obě strany uvedené ve standardní sazbě. Naše srovnávací tabulka z přesně toho důvodu používá na obou stranách ceníkové ceny, pod nimi je vytištěný směnný kurz a datum jeho odečtu, a stejná čísla jsou poskytovatel po poskytovateli rozebraná v článku srovnání evropských poskytovatelů AI.

Nepovedená práce stojí peníze, pokud se někdo nerozhodne jinak

Když model vrátí něco nepoužitelného, většina měřičů už tokeny započítala. My to vidíme opačně: požadavek, který nepřinesl žádnou použitelnou odpověď, ti ze zůstatku nic nestrhne, a přesměrovaný požadavek, který skončí na slabším modelu, se účtuje nižší z obou sazeb. Dokumentace uvádí hlavičky, ze kterých poznáš, co z toho se stalo.

Platí se z předplaceného AI kreditu DPH?

Záleží na tom, kdo jsi a kde. Pokud jsi firma v jiné zemi EU s platným DIČ, uplatní se přenesení daňové povinnosti: DPH nepřičítáme a přiznáš ji sám. Průvodce Evropské komise k přeshraniční DPH ze služeb to říká jasně: odběratelé zaplatí DPH ze služeb, které obdrželi, v sazbě platné v jejich zemi, v režimu přenesení daňové povinnosti.

Pokud platné DIČ nemáš nebo nakupuješ jako spotřebitel, platí DPH v sazbě tam, kde jsi. Každá cena na tomto webu je uvedená bez DPH a tvoje faktura uvádí, který z obou režimů se použil.

Jak zabránit tomu, aby se účet za tokeny utrhl ze řetězu

Problém nikdy není cena za milion. Je to smyčka, uniklý klíč nebo úloha, která běžela celý víkend. Pět pojistek v pořadí, v jakém stojí za to je nastavit:

1. Nastav strop pro každý klíč, v eurech, denní i měsíční. Klíč bez stropu je podepsaný bianko šek.
2. Nastav max_tokens u každého volání. Viz sazba za výstup výše.
3. Čti X-EU-Cost-EUR v odpovědi. Každý požadavek ti řekne, kolik ti strhl ze zůstatku, takže tvoje vlastní logy zodpoví otázku nákladů i bez dashboardu.
4. Drž zůstatek nízko. Předplacený kredit má pevné dno na nule, a to je vlastnost, ne vada. Z dobití za 10 € se nemůže stát překvapení za 4 000 €.
5. Nech kontrolu anomálií dělat svou práci. Když během hodiny uvidíme víc než desetinásobek tvého týdenního průměru, klíč pozastavíme a pošleme ti e-mail. Nové účty mají prvních 48 hodin strop 25 € denně, bez ohledu na zůstatek.

To poslední občas způsobí planý poplach. Myslíme si, že přerušená dávková úloha je lepší výsledek než prázdná peněženka, a jakmile víš, že je provoz tvůj, můžeš strop zvednout sám.

Kolik stojí začít

Deset požadavků na API je zdarma, minimální dobití je 10 € a kredit platí 24 měsíců. Na vyzkoušení chatu nepotřebuješ kartu a dostaneš 5 zpráv zdarma, než po tobě cokoli chceme.

Převést existující integraci, abys ta čísla viděl na vlastním provozu, znamená změnit klíč, base URL a název úrovně; o tom je článek přechod ve třech řádcích.

To je celý obchodní příběh. Pokud chceš i jeho druhou polovinu, tedy kde se ty tokeny zpracovávají a kdo je cestou může číst, doprovodný článek o lokalizaci dat AI v EU prochází stejný požadavek krok za krokem a evropská suverénní AI ukazuje, co slovo suverénní vydrží, když ho rozebereš na součástky.