Todos os padrões
P-05 · Padrões

Trace de ponta a ponta para LLM

Um identificador liga pergunta, contexto recuperado, prompt, modelo, ferramentas, resposta e feedback.

trace-de-ponta-a-ponta.archClique em um componente do diagrama
Clique em um componente do diagrama
Problema

A resposta errada sai com status 200. Os logs mostram latência e tokens, mas não o que entrou no modelo nem por quê.

Solução

Cada interação gera um trace com spans por etapa, versões de prompt e modelo e o contexto mascarado. O trace alimenta avaliação e atribuição de custo.

Quando usar
  • →Assim que houver usuários reais
  • →Agentes com várias etapas
  • →Necessidade de explicar decisões
## Trade-offs
  • +Incidentes reproduzíveis
  • +Custo por tarefa e por cliente
  • +Base para avaliação contínua
  • −Armazena dados sensíveis se não houver mascaramento
  • −Volume de dados exige amostragem