- Manter os prompts de sistema fora dos traces armazenados, continuando a rastrear a solicitação.
- Excluir dos logs o conteúdo enviado pelos usuários para atender a requisitos de tratamento de dados.
- Remover a saída do modelo dos traces sem alterar o que o chamador recebe.
security controla o que é gravado nos traces armazenados. Ele não altera a solicitação nem a resposta em tempo real: o chamador sempre recebe a saída completa e sem máscara. Apenas a cópia persistida no armazenamento de traces é afetada.
security é definido por solicitação. Não há padrão de workspace, projeto ou chave de API; assim, uma solicitação que não envia um bloco security é registrada por completo, a menos que se aplique uma máscara no nível do workspace. Para mascarar todas as solicitações sem repetir o campo, ative o Trace Scrubbing para o workspace, observadas as rotas listadas em Cobertura. Para anexar o campo automaticamente, defina-o como padrão no cliente do SDK.Comparação com o Trace Scrubbing
O Trace Data Masking (esta página) e o Trace Scrubbing decidem o que o AI Gateway grava em um trace armazenado. Eles mascaram os mesmos campos com o mesmo código; portanto, a diferença não está no que é mascarado, mas em onde a máscara é definida e em quem pode alterá-la. O que é igual- Ambos aceitam
input,output,system,metadata,variablesouall. - Ambos apagam ou removem esses campos apenas do trace armazenado. A solicitação em tempo real, a resposta, o payload que o provedor recebe e os dados verificados por Guardrails e Evaluators permanecem intactos.
- Uma solicitação que envia os dois é mesclada: as máscaras se somam, e nenhum dos lados remove uma máscara definida pelo outro.
Qual usar:
security.mask é adequado para um chamador que protege o próprio tráfego, com o custo de enviar o campo em cada solicitação. trace_scrubbing é adequado para uma política que deve valer para todos, pois um administrador a define uma única vez para o workspace, uma regra ou um gateway, e nenhum chamador pode desativá-la.
Início rápido
Configuração
Um valor não reconhecido em
mask é rejeitado com um erro 400.
O que cada valor mascara
Cobertura
security é compatível com os endpoints de solicitação do AI Gateway: responses, chat/completions, completions, embeddings, images/generations, images/variations, ocr, rerank, speech, transcriptions e translations, e com deployments/invoke.
Três endpoints ignoram o campo: /classify não o aceita, e images/edits e moderations o aceitam sem aplicá-lo. Para mascarar traces de /classify, configure o plugin Trace Scrubbing no workspace ou em uma regra de roteamento. Nenhuma configuração mascara os traces de images/edits, moderations e das rotas WebSocket de /responses e /responses/compact, nem mesmo o Trace Scrubbing: os spans dessas rotas não registram opções de mascaramento, e por isso o mascaramento no momento da ingestão as ignora.
security não tem relação com o plugin PII Redaction, que reescreve valores sensíveis na solicitação e na resposta em tempo real, nem com os Guardrails, que podem bloquear uma solicitação por completo. Ele altera apenas o que é gravado no armazenamento de traces; consulte Comparação com o Trace Scrubbing para conhecer o plugin que grava as mesmas máscaras a partir de um conjunto maior de lugares.
