Pular para o conteúdo principal

AI Gateway

Roteie suas chamadas de LLM pelo AI Gateway alterando apenas a base URL. Sem dependência de fornecedor: use sempre o melhor modelo pelo menor custo para o seu caso de uso.

Observabilidade

Instrumente seu código com OpenTelemetry para capturar traces, logs e métricas de cada chamada de LLM, etapa de agente e uso de ferramenta.

AI Gateway

Visão geral

O DSPy é um framework para otimizar programaticamente prompts e pesos de LLMs por meio de módulos e signatures combináveis. Ao conectar o DSPy ao AI Gateway do Toqan Router, você tem acesso a mais de 500 modelos para seus pipelines de otimização de prompts com uma única alteração de configuração.

Principais benefícios

O AI Gateway do Toqan Router aprimora suas aplicações DSPy com:

Observabilidade completa

Acompanhe cada execução de signature, chamada de módulo e etapa de otimização

Confiabilidade integrada

Fallbacks automáticos, novas tentativas e balanceamento de carga para resiliência em produção

Otimização de custos

Acompanhamento de custos em tempo real e gestão de gastos em todas as suas operações de IA

Acesso a múltiplos provedores

Acesse mais de 500 LLMs e mais de 30 provedores por meio de uma integração única e unificada

Pré-requisitos

Antes de integrar o DSPy ao Toqan Router, certifique-se de ter:
  • Uma conta no Toqan Router e uma chave de API
  • Python 3.8 ou superior
Para configurar sua chave de API, consulte Chaves de API e endpoints.

Instalação

Configuração

Configure o DSPy para usar o AI Gateway do Toqan Router com dspy.LM:
Python
api_base: https://router.toqan.ai/eu/v3/router
O DSPy exige prefixo duplo no nome do modelo ao usar um api_base personalizado. Adicione openai/ antes do identificador do modelo: gpt-5.6-sol → openai/openai/gpt-5.6-sol

Exemplo básico

Python

Chain of Thought

Use ChainOfThought para raciocínio passo a passo:
Python

Seleção de modelo

Com o Toqan Router, você pode usar qualquer modelo compatível de mais de 30 provedores. O openai/ inicial não faz parte do nome do modelo: ele indica ao cliente LiteLLM do DSPy que use o protocolo OpenAI para se comunicar com o router, seguido do identificador provider/model do Toqan Router (veja o aviso acima):
Python

Observabilidade

Primeiros passos

O DSPy de Stanford é um framework para otimizar algoritmicamente prompts e pesos de LMs por meio de programação em vez de prompting. Rastrear o DSPy com o Toqan Router oferece insights abrangentes sobre execução de signatures, desempenho de módulos, processos de otimização e eficácia do aprendizado few-shot, para que você otimize suas aplicações programáticas de LLM.

Pré-requisitos

Antes de começar, certifique-se de ter:
  • Uma conta no Toqan Router e uma chave de API
  • Python 3.8+
  • O DSPy instalado no seu projeto
  • Chaves de API dos provedores de LLM escolhidos

Instalar dependências

Configurar o Toqan Router

Configure suas variáveis de ambiente para se conectar ao coletor OpenTelemetry do Toqan Router: Unix/Linux/macOS:
Windows (PowerShell):
Usando um arquivo .env:

Integração

O DSPy usa a instrumentação OpenInference para tracing automático com OpenTelemetry.
Configure a instrumentação na sua aplicação:
Use o DSPy com tracing automático:
Todas as execuções de signatures e operações de módulos do DSPy serão instrumentadas automaticamente e exportadas para o Toqan Router pelo exporter OTLP. Para mais detalhes, consulte Traces.

Exemplos avançados

Raciocínio com Chain of Thought
Otimização few-shot
Pipeline de RAG com múltiplas etapas
O DSPy também é compatível com nosso AI Gateway. Para saber mais, consulte DSPy.