es un kit de herramientas de c¨®digo abierto de f¨¢cil uso de NVIDIA que permite a los desarrolladores implementar barreras de protecci¨®n para modelos de lenguaje de gran tama?o (LLM) utilizados en aplicaciones conversacionales. Desde que lo mencionamos por ¨²ltima vez en el Radar, NeMo ha experimentado una adopci¨®n significativa en nuestros equipos y contin¨²a mejorando. Muchas de las ¨²ltimas mejoras de NeMo Guardrails se centran en expandir las integraciones y fortalecer la seguridad, los datos y el control, aline¨¢ndose con el objetivo principal del proyecto.
Una actualizaci¨®n importante de NeMo es que ha mejorado la usabilidad y se han a?adido nuevas integraciones, incluyendo y , junto con soporte para Colang 2.0. Las actualizaciones clave incluyen mejoras en la , as¨ª como una versi¨®n reciente que admite la transmisi¨®n de contenido LLM a trav¨¦s de rieles de salida para un rendimiento mejorado. Tambi¨¦n hemos visto soporte adicional para . Adem¨¢s, Nvidia tres nuevos microservicios: el , el y la , todos los cuales se han integrado con NeMo Guardrails. Debido a su creciente conjunto de caracter¨ªsticas y al aumento de su uso en producci¨®n, estamos moviendo NeMo Guardrails a la fase de Probar. Recomendamos revisar las ¨²ltimas para obtener una visi¨®n general completa de los cambios desde nuestro ¨²ltimo blip.
es un conjunto de herramientas de c¨®digo abierto de NVIDIA de f¨¢cil uso que permite a los desarrolladores implementar restricciones en los modelos de lenguaje de gran tama?o (LLMs) utilizados en aplicaciones conversacionales. A pesar de que las LLMs tienen un inmenso potencial para crear experiencias interactivas, sus limitaciones inherentes en torno a la exactitud en los hechos, sesgos y su posible uso indebido requieren protecciones. Guardrails nos ofrece un enfoque prometedor para garantizar unos LLMs responsables y confiables. Aunque tiene donde elegir cuando se trata de restricciones LLM, nuestros equipos han encontrado que NeMo Guardrails es particularmente ¨²til porque soporta reglas programables, integraci¨®n en tiempo de ejecuci¨®n y puede ser aplicado a aplicaciones LLM existentes sin grandes modificaciones de c¨®digo.
