- Fundamentar respostas em documentos proprietários sem fine-tuning.
- Bots internos de perguntas e respostas sobre manuais, políticas ou bases de código da empresa.
- Adicionar conhecimento específico de um domínio a um modelo genérico sem sobrecarregar o prompt.
- Reduzir alucinações dando ao modelo acesso a fontes confiáveis no momento da consulta.
Pré-requisitos
As Knowledge Bases foram criadas para fornecer informações relevantes e específicas para um LLM usar. Para começar, consulte Criar uma Knowledge Base. As Knowledge Bases precisam ser enriquecidas com os documentos de origem e configuradas para expor chunks adequados ao caso de uso.Use o
id da Knowledge Base como knowledge_id na geração do modelo.O campo
knowledge_bases está disponível apenas no endpoint de Chat Completions (/v3/router/chat/completions), por meio do objeto de extensão orq. Ele não é compatível com a Responses API (/v3/router/responses).Início rápido
Usando a Knowledge Base criada e o seuid, inclua o payload knowledge_bases na chamada de geração do modelo.
O payload knowledge_bases contém a configuração da consulta e o tipo de busca. Para saber mais, consulte Modos de busca e Estratégia de chunking.
O Toqan Router enriquecerá automaticamente a geração do modelo com o contexto e a consulta fornecidos à knowledge base

