Temos tido sucesso em várias aplicações usando linguagem natural semiestruturada para LLMs. As entradas estruturadas, como um documento JSON, são nítidas, precisas e dão ao modelo uma indicação do tipo de resposta que está sendo buscada. Restringir a resposta dessa maneira ajuda a estreitar o espaço do problema e completar de forma mais precisa, particularmente quando a estrutura está em conformidade com uma linguagem de domínio específico (DSL) cuja sintaxe ou esquema é fornecido ao modelo. Também descobrimos que o enriquecimento da entrada estruturada com comentários ou notações de linguagem natural produz uma resposta melhor do que a linguagem natural ou a entrada estruturada sozinha. Tipicamente, a linguagem natural é simplesmente intercalada com conteúdo estruturado ao construir o prompt. Como em muitos comportamentos de LLM, não sabemos exatamente por que isso funciona, mas nossa experiência mostra que colocar comentários de linguagem natural no código escrito por humanos também melhora a qualidade da saída para assistentes de programação baseados em LLM.
