Engenharia de contexto é o design sistemático e a otimização da informação fornecida a um modelo de linguagem de grande porte durante a inferência para produzir de forma confiável a saída desejada. Ela envolve a estruturação, seleção e sequenciamento de elementos contextuais — como prompts, dados recuperados, memória, instruções e sinais ambientais — para que as camadas internas do modelo operem em um estado ótimo. Diferente da engenharia de prompt, que foca apenas na formulação dos prompts, a engenharia de contexto considera toda a configuração do contexto: como o conhecimento relevante, as instruções e o contexto prévio são organizados e entregues para alcançar os resultados mais eficazes. Hoje, as pessoas de engenharia usam uma gama de técnicas discretas que podem ser agrupadas em três áreas: a configuração de contexto abrange táticas de curadoria, como o uso de prompts de sistema mínimos, exemplos few-shot canônicos e ferramentas eficientes em tokens para ações decisivas. O gerenciamento de contexto para tarefas de longo prazo lida com janelas de contexto finitas por meio da sumarização de contexto, anotações estruturadas para persistir memórias externas e arquiteturas de sub-agentes para isolar e resumir subtarefas complexas. A recuperação dinâmica de informação depende da recuperação de contexto just-in-time (JIT), onde os agentes carregam autonomamente dados externos apenas quando são imediatamente relevantes, maximizando a eficiência e a precisão.
