Pular para o conteúdo principal
A ferramenta orq:advisor permite que o modelo principal peça conselhos a outro modelo durante uma resposta. O advisor recebe a transcrição da conversa, a pergunta do modelo e um contexto opcional. A resposta dele volta para o modelo principal, que escreve a resposta final. O Advisor é útil em um ponto de decisão ou antes que o modelo principal se comprometa com uma ação de alto custo. Ele não é uma resposta separada exibida ao usuário.

Início rápido

Os exemplos usam a configuração de cliente da Visão geral das server tools.

Configuração

O tamanho da transcrição é estimado a partir da conversa serializada. Quando um limite é definido, o AI Gateway mantém os turnos de usuário completos mais recentes que couberem.

Custo e uso

Os tokens do Advisor são cobrados pela tarifa padrão do modelo selecionado. Cada chamada ao Advisor aparece em usage.server_tool_use.advisor_requests, incluindo chamadas rejeitadas por max_uses e chamadas cuja solicitação ao advisor falhou.