Guardrails com estado estendem os guardrails de LLM de mensagens individuais para conversas inteiras. Em vez de verificar apenas a mensagem atual do usuário ou a resposta final do modelo, eles avaliam um histórico compacto de turnos recentes em relação a verificações específicas de políticas e mantêm um estado de penalidades (strikes) ou bloqueios (bans) ao longo da sessão. Isso é importante porque intenções inseguras podem surgir gradualmente: cada mensagem pode parecer aceitável isoladamente, enquanto a conversa como um todo revela tentativas de evasão de políticas, jailbreaking ou extração de prompts. Na prática, as verificações com estado (stateful) são executadas como um ponto de controle (gate) em tempo de execução antes que o agente atue, juntamente com os guardrails convencionais de entrada e saída para turno único.
Avaliar o histórico da conversa a cada turno adiciona latência e custo, e os limites de penalidade ou bloqueio precisam de ajustes para evitar que falsos positivos bloqueiem usuários legítimos. Nossas equipes usaram essa técnica em um assistente conversacional em produção para fluxos de trabalho sensíveis, rastreando as decisões dos guardrails no Langfuse. Recomendamos que as equipes que executam assistentes multiturno em produção experimentem stateful guardrails em vez de confiar apenas em verificações por mensagem.
