Uma interface
Sua aplicação chama sempre o mesmo endpoint e o modelo público auto.
+● API compatível com OpenAI
Uma chave.
Vários caminhos.
Use os modelos da Mono ou conecte seus próprios provedores. O roteamento, os fallbacks e os limites ficam por nossa conta.
MODELO PÚBLICOauto
FORMATOOpenAI
ROTEAMENTOautomático
01 — O PRINCÍPIO
Sua aplicação conhece um nome:
auto.
Os modelos podem mudar sem obrigar você a reescrever a integração. A Mono mantém uma superfície estável e decide qual destino saudável atende cada chamada.
SEM LOCK-IN NO CÓDIGO / SEM CHAVES ESPALHADAS
02 — EXPLORE O ROTEAMENTO
Uma fila simples.
Decisões rápidas.
O primeiro destino disponível recebe a chamada. Se não puder responder, a Mono continua pelo pool sem mudar a API usada pelo cliente.
mono://router/autoPRIORIDADE + DISPONIBILIDADE[ DEMONSTRAÇÃO ]
POST
/v1/chat/completionsmodel: auto01modelo do plano / 01ocupado
02modelo do plano / 02selecionado
03seu provedordisponível
A chamada seguiria para modelo do plano / 02.Simulação local. Nenhuma chamada ou token é consumido.
Experimente ocupar ou liberar um destino.fallbacks: enabled
Pool por plano
Você decide quais modelos participam e em qual ordem são tentados.
+Fallback real
Falha, cooldown ou concorrência ocupada movem a chamada para outro destino.
+BYOK isolado
Cada usuário pode conectar provedores próprios sem expor a chave para outros.
+03 — CONTEXTO
O destino muda.
A conversa não.
A requisição inteira segue para o modelo escolhido. Mensagens, instruções e ferramentas continuam juntas quando a Mono precisa usar outra rota.
PAYLOAD / REQUEST
messages12 itens
instructionspreservadas
tools2 disponíveis
streamtrue
◆MESMO
CONTEXTO
CONTEXTO
DESTINO / MODEL_02
status200
contextorecebido
respostastreaming
latência842ms
EXEMPLO ILUSTRATIVO / O MESMO PAYLOAD ENTRE DESTINOS
04 — INTEGRAÇÃO
Duas linhas.
E pronto.
Mantenha o SDK que já usa. Troque a chave, a URL base e chame o modelo auto.
Abrir documentação ↗from openai import OpenAI
client = OpenAI(
api_key="mono_...",
base_url="http://172.16.1.8:3000/v1"
)
response = client.chat.completions.create(
model="auto",
messages=messages,
stream=True
)OPENAI SDKREADY_
05 — PLANOS
Capacidade para começar.
Espaço para crescer.
Os pools, limites e preços mostrados aqui vêm diretamente da configuração atual da Mono.
Free
R$ 0 para começar
- +500.000.000 tokens por dia
- +1.000.000.000 tokens por mês
- +100 requisições por minuto
- +50 chamadas paralelas
- +1 modelo no pool