Versiunea din 20 august 2026
Status și degradare.
Ce monitorizăm, ce se întâmplă când cade un model sau un furnizor și unde arhitectura noastră te lasă expus.
Această pagină nu arată încă măsurători live
Ce monitorizăm: disponibilitate, latență și erori
| Componentă | Ce măsurăm |
|---|---|
| API chat completions | Disponibilitate și rata erorilor pe nivel |
| Chat | Disponibilitatea interfeței web |
| Inferență (Scaleway, fr-par) | Latență, TTFT și rata erorilor din amonte |
| Plăți și încărcare credit | Rata de succes pentru Checkout și webhookuri |
| Dashboard și evidența consumului | Disponibilitate |
Dacă un model cade: fallback-ul automat
Dacă modelul din spatele nivelului tău întoarce o eroare, un timeout sau un 429, trecem automat pe o alternativă din același nivel. Cererea ta e reîncercată cel mult o dată: un lanț de reîncercări costă trei generări și șase secunde și nu ajută pe nimeni.
Dacă alternativa e mai slabă sau are o fereastră de context mai mică, setăm X-EU-Degraded: true pe răspuns și plătești tariful mai mic dintre cele două. Deci îți spunem, și nu plătești în plus pentru asta.
Dacă furnizorul de inferență cade
Aici trebuie să fim clari, pentru că e cea mai mare limitare a versiunii 1: mecanismele noastre de fallback acoperă un model care cade, nu un furnizor care cade. Toată inferența trece printr-o singură entitate din Uniunea Europeană. Dacă ea pică, picăm și noi.
E o alegere asumată. Un al doilea furnizor înseamnă o a doua analiză de jurisdicție, un al doilea subprocesator și o a doua reconciliere și ar face promisiunea noastră despre locul unde sunt procesate prompturile tale mai greu de explicat decât putem gestiona. Imediat ce căderile costă demonstrabil bani, adăugăm un al doilea furnizor european și îl anunțăm pe pagina de subprocesatori.
Până atunci: nu construi un proces critic pe un singur furnizor fără o soluție de rezervă. Nici pe noi.
Ce nu promitem: fără SLA de disponibilitate
Fără SLA de throughput și fără timp de răspuns garantat. Furnizorul nostru de inferență nu ne dă această garanție, așa că nu o putem da mai departe. Ce facem: măsurăm, publicăm ce măsurăm și spunem când un răspuns a fost produs în regim degradat. Headerul care poartă acest semnal e descris în documentația API, iar cât te costă un răspuns degradat e pe pagina de prețuri: tariful mai mic dintre cele două, niciodată cel mai mare.
Întrebări frecvente
Există un SLA de disponibilitate sau de throughput pentru API?
Nu. Union AI nu oferă disponibilitate garantată și nici SLA de throughput, pentru că furnizorul nostru de inferență nu ne oferă niciuna dintre ele, iar noi nu transmitem mai departe o promisiune pe care n-o putem ține. În schimb măsurăm, publicăm ce măsurăm și marcăm orice răspuns produs în regim degradat.
Ce se întâmplă dacă un model cade în timpul unei cereri?
Trecem o singură dată pe un model alternativ din același nivel. Dacă alternativa e mai slabă sau are o fereastră de context mai mică, răspunsul are X-EU-Degraded: true și plătești tariful mai mic dintre cele două. Există cel mult o reîncercare pe cerere.
Cum știu dacă cererea mea a fost degradată?
Din headerele de răspuns. X-EU-Degraded îți spune că răspunsul a venit de la un înlocuitor mai slab, X-EU-Routed îți spune de ce a fost redirecționată cererea, iar X-EU-Model-Tier numește nivelul pe care a rulat. În chat apare o etichetă mică lângă răspuns.
Cererile eșuate consumă credit?
Nu. Dacă nu s-a întors un răspuns utilizabil, nu se scade nimic din sold. O cerere redirecționată care ajunge pe un model mai slab se taxează la tariful mai mic dintre cele două.
Care e cel mai mare punct unic de eșec?
Un singur furnizor de inferență. Mecanismele noastre de fallback acoperă un model care cade, nu un furnizor care cade, așa că dacă acel furnizor pică, picăm și noi. E un compromis asumat pentru o situație juridică mai simplă și e un motiv să nu construiești un proces critic pe noi fără propria ta soluție de rezervă.