# Toqan Router Documentation

> Documentation for Toqan Router, the EU-built control plane for enterprise AI: govern every LLM and MCP call with the AI Gateway, and ship backlog work with the Software Factory.

- [AI Gateway (100 pages)](https://toqanrouter.mintlify.dev/docs/_llms/pt-br/ai-gateway.txt): Toqan Router, Visão geral, APIs, MCP Portal, Roteamento, Segurança e privacidade, Recursos dos modelos, Ferramentas de servidor, Cenários comuns, Configuração de provedores.
- [Referência da API (171 pages)](https://toqanrouter.mintlify.dev/docs/_llms/pt-br/referencia-da-api.txt): Clientes HTTP, APIs da plataforma, APIs de gerenciamento.

## Observabilidade de IA

### Visão geral

- [Início rápido](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/quickstart.md): Instrumente uma aplicação com OpenTelemetry para ter visibilidade completa dos traces e acompanhamento de custos no Toqan Router. Os guias específicos de cada framework estão na seção Integrations.
- [Activity](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/activity.md): Acompanhe como o workspace usa LLMs: gastos, solicitações, tokens e cache por modelo, usuário e harness.
- [Referência de atributos de span do Toqan Router](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/span-attributes.md): Referência completa dos atributos de span do OpenTelemetry orq.*. Encontre todos os atributos emitidos pelo Toqan Router em traces, payloads de webhooks e exportações de traces.
- [Rastreamento de tokens e custos](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/token-cost-tracking.md): Entenda como o Toqan Router captura o uso de tokens a partir de atributos do OpenTelemetry, calcula o custo por solicitação de LLM e onde encontrar os detalhamentos de custo.

### Instrumente seu app

- [Rastreamento de aplicações e análises para solicitações de IA](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-gateway/app-tracking.md): Marque as solicitações ao AI Gateway com um nome de aplicação para segmentar as análises do Toqan Router por aplicação, incluindo custos, latência, erros e contagem de tokens por produto ou serviço.
- [Gerenciamento de threads para requisições agrupadas](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-gateway/thread-management.md): Agrupe requisições relacionadas do AI Gateway em threads de conversa para a observabilidade. As threads rotulam chamadas relacionadas em conjunto sem armazenar o histórico de mensagens.
- [Acompanhar o uso por identidade](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/identities.md): Agrupe métricas de IA por usuário, equipe, projeto ou cliente. Crie identidades pela API para organizar as análises e monitorar padrões de uso em toda a sua organização.

### Explorar

- [Traces de LLM para depuração](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/traces.md): Explore os detalhes passo a passo de cada geração de LLM. Depure pipelines de RAG, evaluators, guardrails e cache com visibilidade completa do fluxo de trabalho e rastreamento de custos.
- [Agent Graphs](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/agent-graphs.md): Visualize caminhos de delegação entre vários agentes, chamadas de ferramentas e invocações de subagentes como um grafo direcionado na interface Traces do Toqan Router, incluindo execuções do LangGraph.
- [Threads de conversa em traces](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/threads.md): Agrupe chamadas de LLM relacionadas em threads para observabilidade e análise. Threads são um mecanismo de rotulagem e não armazenam nem injetam histórico de mensagens.
- [Logs de aplicação](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/logs.md): Envie registros de log do OpenTelemetry para o Toqan Router e pesquise-os no Logs Explorer, filtrando por ID do trace.
- [Seleção de traces e logs com OQL](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/oql.md): Escreva uma única consulta em pipeline para traces e logs, com estágios fetch, filter, sort e limit, e execute-a pela API, pela CLI ou pelo AI Studio.
- [Views API](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/views-api.md): Salve e gerencie filtros e colunas das páginas de observabilidade por meio da Views API pública.
- [Avaliações de traces](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/trace-evaluations.md): Associe evaluators a Deployments e Agents no Toqan Router para pontuar de forma assíncrona traces de produção amostrados e monitorar a qualidade continuamente.
- [MCP Tracing](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/mcp-tracing.md): Observe chamadas de ferramentas MCP nos traces. Veja hostnames de servidores, nomes de ferramentas, argumentos, resultados, latência e erros de cada chamada do Model Context Protocol.

### Monitorar

- [Alerts](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/alerts.md): Configure alertas no Toqan Router para ser notificado quando o custo, a latência, os erros ou os resultados de guardrails de LLM ultrapassarem um limite, sem precisar acompanhar um dashboard.
- [Notifiers como destinos de alertas](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/notifiers.md): Direcione Alerts e alertas de orçamento para e-mail, Slack ou um webhook genérico criando um Notifier reutilizável por destino.
- [Monitors](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/monitors.md): Crie Monitors: dashboards personalizados com gráficos de custo, latência, erros e resultados de evaluators a partir de Traces, Metrics e Logs.
- [Trace Automations](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/automations.md): Aja automaticamente sobre dados de traces de LLM com automações baseadas em regras. Adicione traces a datasets, acione revisões e escale o monitoramento de qualidade sem trabalho manual.

### Exportar

- [Exportação OpenTelemetry](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/export-opentelemetry.md): Exporte traces para um backend de observabilidade externo com destinos no nível da organização e controles por projeto.
- [Reporting API](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/reporting-api.md): Use a Reporting API do Toqan Router para acessar de forma programática análises de uso, custo, latência, tokens, evaluators e guardrails de IA, detalhadas por qualquer dimensão.
- [Telemetry API](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/telemetry-api.md): Consulte traces, logs e métricas de uso por meio de um único endpoint: latência, custo e throughput de saída em um único formato de resposta por fonte.

### Revisar

- [Annotations](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/annotations.md): Defina esquemas de anotação e aplique feedback humano estruturado a traces e spans de LLM no AI Studio, pela API e pelo SDK ou pela CLI.
- [Annotations API](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/annotations-api.md): Aplique feedback estruturado a traces e spans pela Annotations API. Adicione avaliações, tags de defeito, correções e substituições de resultados de evaluators de forma programática.
- [Annotation Queues](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/annotation-queues.md): Organize traces de produção em filas de anotação no AI Studio para revisar saídas de LLM e aplicar anotações de feedback humano em lote.

### Privacidade e segurança de dados

- [Privacidade e segurança de dados](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/observability/data-privacy.md): Controle o que o Toqan Router armazena dos traces, por quanto tempo os dados de observabilidade são mantidos e quais controles de conformidade, segredos e acesso se aplicam a um workspace.

### Integrações com frameworks

- [Integração com o framework Agno](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/agno.md): Crie agentes de IA para produção com o Agno e o AI Gateway do Toqan Router. Crie agentes que usam ferramentas, com observabilidade completa e acesso a mais de 500 LLMs.
- [Integração drop-in com o SDK da Anthropic](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/anthropic.md): Roteie as chamadas do SDK da Anthropic pelo AI Gateway do Toqan Router. Tenha fallbacks, cache, balanceamento de carga e rastreamento de custos para todos os modelos Claude.
- [Integração multiagente com o AutoGen](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/autogen.md): Conecte o Microsoft AutoGen ao AI Gateway para fluxos de trabalho multiagente. Crie sistemas de IA colaborativos com roteamento, cache e observabilidade aprimorados.
- [Integração com o AWS Bedrock AgentCore](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/aws-bedrock-agentcore.md): Conecte o AI Gateway do Toqan Router ou invoque agentes do Toqan Router a partir do AWS Bedrock AgentCore Runtime, com fallbacks, rastreamento de custos e tracing via OpenTelemetry.
- [Integração com o AWS Strands Agents](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/aws-strands.md): Conecte o AWS Strands Agents ao AI Gateway do Toqan Router com observabilidade via OpenTelemetry. Acesse mais de 500 LLMs com confiabilidade e tracing integrados.
- [Integração com o Azure AI Agents](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/azure-ai-agents.md): Conecte o Azure AI Agents ao AI Gateway do Toqan Router para ter observabilidade completa, confiabilidade integrada e acesso a mais de 500 LLMs de mais de 30 provedores.
- [Integração com o framework BeeAI](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/beeai.md): Envie traces do BeeAI Framework ao Toqan Router usando OpenTelemetry e OpenInference. Monitore fluxos de trabalho de agentes, chamadas de ferramentas e interações com LLMs.
- [Claude Agent SDK](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/claude-agent-sdk.md): Instrumente o Claude Agent SDK com hooks do OpenTelemetry para capturar traces no Toqan Router e roteie as chamadas ao Claude pelo AI Gateway.
- [Integração com o Cloudflare Agents](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/cloudflare-agents.md): Conecte o Cloudflare Agents ao AI Gateway do Toqan Router para rotear entre provedores e exporte traces e logs dos Workers para o Toqan Router via OpenTelemetry.
- [Integração com o framework CrewAI](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/crewai.md): Conecte o CrewAI ao AI Gateway do Toqan Router para ter observabilidade completa, confiabilidade integrada e acesso a mais de 500 LLMs de mais de 30 provedores.
- [Integração com o Databricks](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/databricks.md): Acesse mais de 500 modelos de dentro do Databricks registrando o AI Gateway como um modelo externo e capture traces de agentes no Model Serving com OpenTelemetry.
- [Integração com o framework DSPy](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/dspy.md): Integre o DSPy ao AI Gateway para programas de LLM otimizados. Use o framework de Stanford para otimização automática de prompts e sistemas de IA baseados em raciocínio.
- [Google ADK](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/google-ai.md): Conecte o Google Agent Development Kit ao Toqan Router via OpenTelemetry. Rastreie fluxos de trabalho de agentes, chamadas de ferramentas e interações com modelos Gemini.
- [Haystack](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/haystack.md): Envie traces do Deepset Haystack ao Toqan Router via OpenTelemetry. Monitore pipelines de RAG, a qualidade da recuperação e o desempenho da geração por LLM.
- [Integração de saída estruturada com o Instructor](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/instructor.md): Combine o AI Gateway com o Instructor para respostas de LLM com tipagem segura. Gere modelos Pydantic e saídas JSON estruturadas com validação e novas tentativas.
- [Integração com o framework LangChain](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/langchain.md): Conecte o Langchain ao AI Gateway para uma orquestração de LLMs aprimorada. Use o Toqan Router como provedor drop-in para chains, agentes e aplicações de RAG.
- [Integração com o framework LangGraph](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/langgraph.md): Conecte o LangGraph ao AI Gateway do Toqan Router para ter observabilidade completa, confiabilidade integrada e acesso a mais de 500 LLMs de mais de 30 provedores.
- [Integração com o LiveKit Agents](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/livekit.md): Conecte o LiveKit Agents ao AI Gateway do Toqan Router para ter observabilidade completa, confiabilidade integrada e acesso a mais de 500 LLMs de mais de 30 provedores.
- [Integração com o LlamaIndex Agents](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/llamaindex-agents.md): Conecte o LlamaIndex Agents ao AI Gateway do Toqan Router para ter observabilidade completa, confiabilidade integrada e acesso a mais de 500 LLMs de mais de 30 provedores.
- [Integração com o framework LlamaIndex](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/llamaindex.md): Conecte o LlamaIndex ao AI Gateway do Toqan Router para ter observabilidade completa, confiabilidade integrada e acesso a mais de 500 LLMs de mais de 30 provedores.
- [Integração com o framework Mastra](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/mastra.md): Conecte o Mastra ao AI Gateway do Toqan Router para ter observabilidade completa, confiabilidade integrada e acesso a mais de 500 LLMs de mais de 30 provedores.
- [Integração com o OpenAI Agents SDK](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/openai-agents.md): Conecte o OpenAI Agents SDK ao AI Gateway do Toqan Router para ter observabilidade completa, confiabilidade integrada e acesso a mais de 500 LLMs de mais de 30 provedores.
- [Integração direta com o OpenAI SDK](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/openai.md): Use o AI Gateway com o OpenAI SDK. Substitua a URL base da OpenAI pelo Toqan Router para obter roteamento, cache, monitoramento e fallback entre vários provedores.
- [OpenClaw](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/openclaw.md): Envie traces do framework OpenClaw para o Toqan Router via OpenTelemetry. Monitore interações de agentes, chamadas de ferramentas e o desempenho de LLMs em tempo real.
- [Integrações com frameworks e SDKs](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/overview.md): Integre o AI Gateway com frameworks e SDKs populares de LLM. Conecte Langchain, Vercel AI, DSPy, Instructor e outros para aprimorar o desenvolvimento de aplicações de IA.
- [Integração com Pydantic AI](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/pydantic-ai.md): Conecte o Pydantic AI ao AI Gateway do Toqan Router para ter observabilidade completa, confiabilidade integrada e acesso a mais de 500 LLMs de mais de 30 provedores.
- [Integração com o Microsoft Semantic Kernel](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/semantic-kernel.md): Conecte o Microsoft Semantic Kernel ao AI Gateway do Toqan Router para ter observabilidade completa, confiabilidade integrada e acesso a mais de 500 LLMs de mais de 30 provedores.
- [Integração com SmolAgents](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/smolagents.md): Conecte o SmolAgents da HuggingFace ao AI Gateway do Toqan Router para acessar mais de 500 LLMs e enviar traces via OpenTelemetry para observabilidade completa dos agentes.
- [Integração com o Vercel AI SDK](https://toqanrouter.mintlify.dev/docs/pt-BR/ai-studio/integrations/frameworks/vercel-ai.md): Use o AI Gateway com o Vercel AI SDK para respostas de LLM em streaming. Crie interfaces de chat com IA em tempo real com React Server Components e edge runtime.

## OpenAPI Specs

- [openapi](/docs/openapi.json)

> The links below point to documentation indexes. Follow each `/_llms/` index recursively until you reach documentation pages.

## Indexes

- [Brazilian Portuguese / AI Gateway (100 pages)](https://toqanrouter.mintlify.dev/docs/_llms/pt-br/ai-gateway.txt): Toqan Router, Visão geral, APIs, MCP Portal, Roteamento, Segurança e privacidade, Recursos dos modelos, Ferramentas de servidor, Cenários comuns, Configuração de provedores.
- [Brazilian Portuguese / Referência da API (171 pages)](https://toqanrouter.mintlify.dev/docs/_llms/pt-br/referencia-da-api.txt): Clientes HTTP, APIs da plataforma, APIs de gerenciamento.
- [English (326 pages)](https://toqanrouter.mintlify.dev/docs/_llms/en.txt): AI Gateway, AI Observability, API Reference.
- [English / AI Gateway (100 pages)](https://toqanrouter.mintlify.dev/docs/_llms/en/ai-gateway.txt): Toqan Router, Overview, APIs, MCP Portal, Routing, Security & Privacy, Model Capabilities, Server Tools, Common Scenarios, Provider setup.
- [English / API Reference (171 pages)](https://toqanrouter.mintlify.dev/docs/_llms/en/api-reference.txt): HTTP clients, Platform APIs, Management APIs.


This documentation is built and hosted on [Mintlify](https://mintlify.com), a developer documentation platform.