Pular para o conteúdo principal
Consulte URLs e autenticação HTTP e a referência da API para os formatos completos de solicitação e resposta. Identities são entidades usadas para vincular métricas nas APIs do Toqan Router. Elas podem representar:
  • um Usuário
  • uma Equipe
  • um Projeto
  • um Cliente
As Identities são criadas pelo AI Studio, pelo AI Gateway ou pela API e depois usadas como dados complementares para atribuir métricas em qualquer outra chamada da API. A lista mostra External ID, Name, Source, Requests, Cost $, Tokens e Error rate, e o controle de ordenação exibe Sort: Last updated. As mesmas identidades aparecem como o filtro Identity em Traces, que restringe uma lista de traces à identidade à qual uma solicitação foi atribuída. Para ver todas as formas de anexar contexto a uma solicitação, incluindo nome do app, threads e metadados personalizados, consulte Request Metadata.

Criar uma identidade

Acesse a seção Identities e escolha Create an Identity.O seguinte painel é aberto:

Anexar uma identidade a uma solicitação

Toda solicitação pode ser atribuída a um usuário, equipe ou cliente específico. O gateway verifica cada uma das fontes a seguir, na ordem, e usa a primeira correspondência encontrada:
Passe um objeto identity em cada resposta de Agent ou invocação de Deployment para atribuir a solicitação a uma Identity.
A opção de construtor identityId / identity_id foi removida no SDK v4.10.0. Em vez disso, passe identity em cada solicitação.
Agents

Obter uma identidade pela API

Depois que uma identidade estiver em uso, você pode obter o registro completo a qualquer momento usando seu _id (ULID) ou external_id.
A resposta retorna o registro completo da identidade:
Consulte a Referência da API para ver a especificação completa dos parâmetros e da resposta.

Listar identidades com métricas

Passe include_metrics=true para o endpoint de listagem para incluir na resposta as métricas de uso dos últimos 30 dias de cada identidade. Isso é útil para auditar gastos, identificar taxas de erro elevadas ou criar dashboards por identidade.
Cada identidade na resposta inclui um objeto metrics com os dados de uso dos últimos 30 dias:
Consulte a Referência da API para ver a lista completa de parâmetros de consulta, incluindo paginação, busca e filtragem por tags.

Controle de orçamento

Anexe um limite de gastos a uma identidade para limitar o custo, o uso de tokens ou a taxa de solicitações de um cliente ou tenant específico. Acesse Settings > Budgets, clique em Create, defina Scope > Applies to como Identity e selecione a identidade de destino pelo ID externo. Consulte Budgets para ver a lista completa de limites configuráveis, períodos de redefinição e alertas.

Referência dos campos de identidade

Campos do objeto identity anexado a uma solicitação de inferência:

Boas práticas

  • IDs consistentes: use padrões previsíveis de ID de identidade (por exemplo, user-{userId}, tenant-{orgId}-{userId}) em toda a aplicação.
  • Apenas metadados essenciais: inclua somente campos de metadados relevantes para minimizar o tamanho do payload.
  • Estratégia de tags: use tags para filtragem e segmentação, em vez de armazenar dados detalhados.
  • Conformidade com privacidade: garanta que o tratamento dos dados de identidade atenda aos requisitos de privacidade aplicáveis.
  • Validação: valide o formato e o comprimento do id antes de enviar as solicitações.

Solução de problemas