Modelos

Consulte URLs e autenticação HTTP e a referência da API para os formatos completos de solicitação e resposta.

Habilitar novos Modelos

Para consultar os Modelos disponíveis e habilitá-los, acesse a página Models no AI Gateway. Cada linha de modelo contém as colunas abaixo. Status e Model Access são visíveis apenas para administradores do workspace.

Coluna	Descrição
Name	Nome de exibição do modelo, logotipo do provedor e ID do modelo. O selo New identifica modelos adicionados nos últimos 14 dias, Deprecated soon identifica modelos com data de remoção agendada e o ícone de chave identifica provedores com uma chave de API personalizada configurada.
Status	Use o controle para habilitar ou desabilitar o modelo no AI Gateway.
Model Access	Projetos que podem usar o modelo: All Projects, No projects (compartilhamento personalizado sem nenhum Projeto selecionado) ou os nomes dos Projetos selecionados. Consulte Restringir o acesso a Modelos por Projeto.
Price	Custo de entrada e saída por um milhão de tokens. Modelos de imagem mostram o custo por imagem. Passe o cursor sobre a célula para ver os detalhes dos preços.
Intelligence	Intelligence Index do modelo, valor usado pelas faixas do Smart Router.
Capabilities	Ícones das modalidades e funcionalidades aceitas pelo modelo. Passe o cursor sobre a célula para ver a lista completa.
Released	Data de lançamento do modelo.
Max Output Tokens	Número máximo de tokens que o modelo pode gerar por resposta.
Context Window	Janela total de tokens (entrada + saída).
Owner	Public para modelos fornecidos pelo Toqan Router; Private para modelos adicionados ao workspace.
Location	Região em que o modelo é disponibilizado.

Use Sort: Newest para ordenar por Newest, Pricing: Low to High, Pricing: High to Low, Context: Low to High, Context: High to Low, Intelligence: High to Low, Intelligence: Low to High ou Max Output Tokens. Use Columns para mostrar ou ocultar colunas.

Use o controle Status para habilitar um modelo no AI Gateway.

Ações da linha

Passe o cursor sobre a célula Name de um modelo para ver as ações da linha:

Ação	Descrição
Copy Model ID	Copia o ID do modelo para a área de transferência, com o prefixo do workspace aplicado aos modelos privados.
View Code	Abre exemplos preenchidos de cURL, Node.js e Python para chamar o modelo.
Access control	Abre as configurações de acesso por Projeto do modelo. Disponível para modelos habilitados.

Modelos privados têm a ação Delete no menu da linha. Modelos adicionados por provedores que permitem edição, como OpenAI Compatible, Azure e Google, também apresentam Edit, que reabre o assistente do provedor.

Filtros

Use as abas de modalidade no topo da lista para filtrar os modelos por tipo: All Text Image Audio Speech Embedding Moderation Rerank Decisions A barra lateral oferece filtros adicionais:

Filtro	Descrição
Location	Filtre por região: Europe, United States, Global, APAC, Australia ou Singapore
Access	Ative Zero data retention para provedores compatíveis com ZDR (desativado por padrão) ou BYOK para provedores com uma chave de API adicionada
Providers	Filtre por provedor de LLM. Consulte Provedores para configurar chaves de API
Status	Mostre modelos Enabled ou Disabled. Visível apenas para administradores do workspace
Features	Filtre por funcionalidade: Base64, Decisions, Code Execution, Image Edit, JSON Mode, PDF, Reasoning, Streaming, Tool Calling, URL, Vision ou Web Search
Context length	Arraste o controle de intervalo para filtrar pelo tamanho da janela de contexto. Os limites acompanham os modelos do catálogo
Intelligence index	Arraste o controle de intervalo para filtrar pelo Intelligence Index
Input price / 1M tokens	Arraste o controle de intervalo para filtrar pelo custo de entrada por um milhão de tokens
Owner	Filtre entre modelos Public (fornecidos pelo Toqan Router) e Private (adicionados ao workspace)

Para habilitar um modelo, ative o controle correspondente. Ele ficará disponível imediatamente para chamadas pelo AI Gateway.

Habilitar ou desabilitar Modelos pela API

Também é possível habilitar e desabilitar Modelos programaticamente pela API de Models. Isso é útil em pipelines de CI/CD, scripts de automação e fluxos de infraestrutura como código. Esses endpoints pertencem ao plano de gerenciamento e exigem uma Chave de Gerenciamento com permissão de escrita em workspace-model. Uma Chave de API padrão não pode receber acesso ao domínio workspace-model e é rejeitada com 403. Habilite um modelo:

curl --request POST \
  --url https://router.toqan.ai/eu/v2/workspace-models \
  --header "Authorization: Bearer $TOQAN_MANAGEMENT_KEY" \
  --header "Content-Type: application/json" \
  --data '{ "model_id": "openai/gpt-5.6-sol" }'

Desabilite um modelo:

curl --request DELETE \
  --url https://router.toqan.ai/eu/v2/workspace-models/openai/gpt-5.6-sol \
  --header "Authorization: Bearer $TOQAN_MANAGEMENT_KEY"

Os dois endpoints retornam 204 em caso de sucesso. Habilitar um modelo já habilitado ou desabilitar um modelo já desabilitado é uma operação idempotente e também retorna 204. Quando Enforce enabled models está ativado em General Settings, apenas os modelos habilitados pelo painel ou por esta API ficam disponíveis para roteamento. Solicitações que referenciam um modelo não habilitado são rejeitadas. Para consultar os schemas completos de solicitação e resposta, veja Habilitar modelo no workspace e Desabilitar modelo no workspace.

Restringir o acesso a Modelos por Projeto

Depois que um modelo é habilitado, os administradores do workspace podem ver o ícone Access control ao lado dele. Selecione-o para escolher quais Projetos podem usar o modelo em um dos dois modos:

All projects (padrão): todos os Projetos do workspace podem usar o modelo.
Custom: cada Projeto tem um controle de ativação próprio, permitindo que os administradores concedam ou revoguem o acesso por Projeto.

As alterações são salvas imediatamente; não há uma ação separada para salvar.

O controle de acesso está disponível apenas para administradores. Membros com outras funções veem somente os modelos aprovados por um administrador nos Projetos selecionados.

Adicionar Modelos privados

Adicione modelos privados selecionando Model no canto superior direito da tela. Essa opção é útil para hospedar um modelo ajustado por fine-tuning ou um modelo implantado em um provedor privado, como um endpoint compatível com OpenAI, Azure AI Foundry ou AWS Bedrock.

Provedores de Modelos privados

Mostrar OpenAI Compatible

Na barra lateral do AI Gateway, acesse Models, clique em Model no canto superior direito e selecione OpenAI Compatible.

Defina o tipo de modelo

Escolha Chat Completion, Completion, Embedding ou Image.

Conecte o endpoint

Informe a Base URL do endpoint compatível com OpenAI, o Model ID definido pelo provedor e uma API Key.

Identifique o modelo

Defina o Model name exposto pelo gateway e preencha os limites de tokens, os custos por token e as funcionalidades.

Para consultar todos os campos, veja Modelos compatíveis com OpenAI.

Mostrar Azure AI Foundry

Na página inicial do projeto do Azure AI Foundry, copie a API key e um dos dois endpoints exibidos no topo. O Toqan Router aceita os seguintes endpoints:

Tipo de endpoint	Formato	O que importa
Endpoint Azure OpenAI	`https://<resource>.openai.azure.com/openai/v1`	Implantações compatíveis com OpenAI
Endpoint de projeto	`https://<resource>.services.ai.azure.com/api/projects/<project>`	Todas as implantações dos publicadores do projeto (Anthropic, Cohere e xAI)

Cole a URL do endpoint exatamente como aparece no Azure AI Foundry. O Toqan Router não acrescenta nenhum sufixo de caminho.

Para saber mais sobre a implantação no Azure AI Foundry, consulte a documentação do provedor.

Abra Add Model

Na barra lateral do AI Gateway, acesse Models, clique em Model no canto superior direito e selecione Azure.

Informe as credenciais

Informe a Base URL e a API Key.

Busque as implantações

Clique em Fetch deployments para importar automaticamente todas as implantações disponíveis. Os modelos importados aparecem na lista Models. Ative Enabled em cada modelo antes de usá-lo. Modelos habilitados ficam disponíveis para roteamento de solicitações por meio de Regras de Roteamento.

Referencie os modelos importados no código usando <workspacename>@azure/<modelname> (consulte Referenciar Modelos privados no código).

Mostrar AWS Bedrock

Para adicionar modelos Bedrock, primeiro crie uma Integração para a conta AWS.

Abra Add Model

Na barra lateral do AI Gateway, acesse Models, clique em Model no canto superior direito e selecione AWS Bedrock.

Escolha o modelo

Selecione a AWS Integration, informe o Inference Profile ARN e confirme a Region identificada no ARN.

Valide a conexão

Clique em Validate Connection e informe um nome de exibição e os detalhes do modelo.

Mostrar LiteLLM

Para importar modelos LiteLLM, primeiro crie uma Integração para a instância LiteLLM. Depois, retorne ao AI Gateway e importe os modelos da instância conectada.

Referenciar Modelos privados no código

Ao referenciar modelos privados pelos SDKs, pela API ou pelas bibliotecas compatíveis, use a string: <workspacename>@<provider>/<modelname>.

Exemplo: corp@azure/gpt-5.6-sol

Use a própria chave (BYOK)

Para começar a usar os modelos, conecte chaves de API dos provedores em BYOK, na barra lateral do AI Gateway.

Toqan Router

Visão geral

APIs

MCP Portal

Roteamento

Segurança e privacidade

Recursos dos modelos

Ferramentas de servidor

Cenários comuns

Configuração de provedores

Habilitar novos Modelos

Ações da linha

Filtros

Habilitar ou desabilitar Modelos pela API

Restringir o acesso a Modelos por Projeto

Adicionar Modelos privados

Provedores de Modelos privados

Referenciar Modelos privados no código

Use a própria chave (BYOK)

​Habilitar novos Modelos

​Ações da linha

​Filtros

​Habilitar ou desabilitar Modelos pela API

​Restringir o acesso a Modelos por Projeto

​Adicionar Modelos privados

​Provedores de Modelos privados

​Referenciar Modelos privados no código

​Use a própria chave (BYOK)

Habilitar novos Modelos

Ações da linha

Filtros

Habilitar ou desabilitar Modelos pela API

Restringir o acesso a Modelos por Projeto

Adicionar Modelos privados

Provedores de Modelos privados

Referenciar Modelos privados no código

Use a própria chave (BYOK)