NeMo Guardrails es un kit de herramientas de código abierto desarrollado por NVIDIA que facilita la incorporación de mecanismos programables de seguridad y control en aplicaciones conversacionales basadas en LLMs. Garantiza que las respuestas se mantengan seguras, relevantes y en cumplimiento mediante la definición y aplicación de reglas de comportamiento. Los desarrolladores utilizan Colang, un lenguaje creado específicamente para este propósito, con el fin de crear flujos de diálogo flexibles y gestionar conversaciones aplicando rutas predefinidas y procedimientos operativos. NeMo Guardrails también ofrece una API asíncrona para un mejor rendimiento y soporta salvaguardas para la protección del contenido, seguridad y moderación de entradas y salidas. Estamos observando una adopción constante entre los equipos que construyen aplicaciones que van desde chatbots simples hasta flujos de trabajo complejos basados en agentes. Con su conjunto de funcionalidades en expansión y su cobertura cada vez más madura de vulnerabilidades comunes en LLMs, estamos moviendo NeMo Guardrails a Adopt.
NeMo Guardrails es un kit de herramientas de código abierto de fácil uso de NVIDIA que permite a los desarrolladores implementar barreras de protección para modelos de lenguaje de gran tamaño (LLM) utilizados en aplicaciones conversacionales. Desde que lo mencionamos por última vez en el Radar, NeMo ha experimentado una adopción significativa en nuestros equipos y continúa mejorando. Muchas de las últimas mejoras de NeMo Guardrails se centran en expandir las integraciones y fortalecer la seguridad, los datos y el control, alineándose con el objetivo principal del proyecto.
Una actualización importante de NeMo documentation es que ha mejorado la usabilidad y se han añadido nuevas integraciones, incluyendo AutoAlign y Patronus Lynx, junto con soporte para Colang 2.0. Las actualizaciones clave incluyen mejoras en la seguridad y protección del contenido, así como una versión reciente que admite la transmisión de contenido LLM a través de rieles de salida para un rendimiento mejorado. También hemos visto soporte adicional para Prompt Security. Además, Nvidia lanzó tres nuevos microservicios: el microservicio NIM de seguridad de contenido, el microservicio NIM de control de temas y la detección de jailbreak, todos los cuales se han integrado con NeMo Guardrails. Debido a su creciente conjunto de características y al aumento de su uso en producción, estamos moviendo NeMo Guardrails a la fase de Probar. Recomendamos revisar las últimas notas de la versión para obtener una visión general completa de los cambios desde nuestro último blip.
NeMo Guardrails es un conjunto de herramientas de código abierto de NVIDIA de fácil uso que permite a los desarrolladores implementar restricciones en los modelos de lenguaje de gran tamaño (LLMs) utilizados en aplicaciones conversacionales. A pesar de que las LLMs tienen un inmenso potencial para crear experiencias interactivas, sus limitaciones inherentes en torno a la exactitud en los hechos, sesgos y su posible uso indebido requieren protecciones. Guardrails nos ofrece un enfoque prometedor para garantizar unos LLMs responsables y confiables. Aunque tiene donde elegir cuando se trata de restricciones LLM, nuestros equipos han encontrado que NeMo Guardrails es particularmente útil porque soporta reglas programables, integración en tiempo de ejecución y puede ser aplicado a aplicaciones LLM existentes sin grandes modificaciones de código.
