GraphQL como patrón de acceso a datos para LLMs es un enfoque emergente para crear una capa de acceso a datos uniforme y compatible con modelos, que mejora la ingeniería de contexto. Permite a los equipos exponer datos estructurados y consultables sin otorgar a los modelos acceso directo a las bases de datos. A diferencia de las API REST, que tienden a recuperar datos en exceso o requieren nuevos endpoints o filtros para cada caso de uso, GraphQL permite que el modelo obtenga solo los datos que necesita, reduciendo el ruido, mejorando la relevancia del contexto y disminuyendo el uso de tokens. Un esquema GraphQL bien definido también proporciona metadatos que los LLM pueden usar para razonar sobre las entidades y relaciones disponibles, lo que permite consultas dinámicas con reconocimiento de esquema para casos de uso con agentes. Este patrón ofrece un punto intermedio seguro entre REST y SQL, equilibrando los controles de gobernanza con un acceso flexible. Sin embargo, el enfoque depende de esquemas bien estructurados y nombres de campo significativos. Interpretar la semántica de los esquemas y navegar por estructuras complejas sigue siendo un desafío, y lo que resulta difícil de razonar para las personas suele ser igual de difícil para los LLM. También es importante tener en cuenta los vectores adicionales para ataques DoS, así como los desafíos habituales de GraphQL, como el almacenamiento en caché y el versionado.
