AI Gateway
Roteie suas chamadas de LLM pelo AI Gateway alterando apenas a base URL. Sem dependência de fornecedor: use sempre o melhor modelo pelo menor custo para o seu caso de uso.
Observabilidade
Instrumente seu código com OpenTelemetry para capturar traces, logs e métricas de cada chamada de LLM, etapa de agente e uso de ferramenta.
AI Gateway
Visão geral
O DSPy é um framework para otimizar programaticamente prompts e pesos de LLMs por meio de módulos e signatures combináveis. Ao conectar o DSPy ao AI Gateway do Toqan Router, você tem acesso a mais de 500 modelos para seus pipelines de otimização de prompts com uma única alteração de configuração.Principais benefícios
O AI Gateway do Toqan Router aprimora suas aplicações DSPy com:Observabilidade completa
Acompanhe cada execução de signature, chamada de módulo e etapa de otimização
Confiabilidade integrada
Fallbacks automáticos, novas tentativas e balanceamento de carga para resiliência em produção
Otimização de custos
Acompanhamento de custos em tempo real e gestão de gastos em todas as suas operações de IA
Acesso a múltiplos provedores
Acesse mais de 500 LLMs e mais de 30 provedores por meio de uma integração única e unificada
Pré-requisitos
Antes de integrar o DSPy ao Toqan Router, certifique-se de ter:- Uma conta no Toqan Router e uma chave de API
- Python 3.8 ou superior
Para configurar sua chave de API, consulte Chaves de API e endpoints.
Instalação
Configuração
Configure o DSPy para usar o AI Gateway do Toqan Router comdspy.LM:
Python
api_base: https://router.toqan.ai/eu/v3/router
Exemplo básico
Python
Chain of Thought
UseChainOfThought para raciocínio passo a passo:
Python
Seleção de modelo
Com o Toqan Router, você pode usar qualquer modelo compatível de mais de 30 provedores. Oopenai/ inicial não faz parte do nome do modelo: ele indica ao cliente LiteLLM do DSPy que use o protocolo OpenAI para se comunicar com o router, seguido do identificador provider/model do Toqan Router (veja o aviso acima):
Python
Observabilidade
Primeiros passos
O DSPy de Stanford é um framework para otimizar algoritmicamente prompts e pesos de LMs por meio de programação em vez de prompting. Rastrear o DSPy com o Toqan Router oferece insights abrangentes sobre execução de signatures, desempenho de módulos, processos de otimização e eficácia do aprendizado few-shot, para que você otimize suas aplicações programáticas de LLM.Pré-requisitos
Antes de começar, certifique-se de ter:- Uma conta no Toqan Router e uma chave de API
- Python 3.8+
- O DSPy instalado no seu projeto
- Chaves de API dos provedores de LLM escolhidos
Instalar dependências
Configurar o Toqan Router
Configure suas variáveis de ambiente para se conectar ao coletor OpenTelemetry do Toqan Router: Unix/Linux/macOS:Integração
O DSPy usa a instrumentação OpenInference para tracing automático com OpenTelemetry.Configure a instrumentação na sua aplicação:
Use o DSPy com tracing automático:
Todas as execuções de signatures e operações de módulos do DSPy serão instrumentadas automaticamente e exportadas para o Toqan Router pelo exporter OTLP. Para mais detalhes, consulte Traces.
Exemplos avançados
Raciocínio com Chain of ThoughtO DSPy também é compatível com nosso AI Gateway. Para saber mais, consulte DSPy.

