Datadog LLM Observability oferece rastreamento de ponta a ponta, monitoramento e diagnósticos para modelos de linguagem de grande porte e workflows de aplicações agênticas. Ele mapeia cada comando, chamada de ferramenta e passo intermediário em segmentos e traços; rastreia latência, uso de tokens, erros e métricas de qualidade; e se integra com a suíte mais ampla de APM e observabilidade do Datadog. Organizações que já utilizam o Datadog — e estão familiarizadas com sua estrutura de custos — podem achar a ferramenta de observabilidade de LLM uma maneira direta de ganhar visibilidade sobre workloads de IA, presumindo que esses workloads possam ser instrumentados. No entanto, configurar e usar a instrumentação de LLM exige cuidado e um entendimento sólido tanto dos workloads quanto de sua implementação. Recomendamos que as pessoas de engenharia de dados e de operações colaborem de perto ao implantá-lo. Veja também nosso conselho sobre evitar times de engenharia de dados separados.
