Technology Radar
Hemos tenido éxito en varias aplicaciones que hacen uso de lenguaje natural semi-estructurado para LLMs. Las entradas de datos estructuradas, como documentos JSON, son claras y precisas, y le dan al modelo una indicación del tipo de respuestas que se buscan. Limitar la respuesta de esta forma ayuda a estrechar el problema y puede producir resultados más certeros, particularmente cuando la estructura se ajusta a lenguaje específico de dominio (DSL) cuya sintaxis o esquema se proporciona al modelo. También hemos visto que acompañando la entrada estructurada de datos con comentarios en lenguaje natural o anotaciones produce una mejor respuesta que procesándolos de forma separada. Normalmente, el lenguaje natural simplemente se intercala con contenido estructurado al construir la instrucción. Al igual que con otros comportamientos de LLMs, no sabemos exactamente por qué funciona, pero la experiencia nos ha demostrado que añadir comentarios de lenguaje natural en código escrito por humanos también mejora la calidad de la salida de datos para los asistentes de código basados en LLMs.
