LLM Guardrails son un conjunto de pautas, pol¨ªticas o filtros dise?ados para evitar que los modelos de lenguaje de gran tama?o (LLMs) generen contenido da?ino, enga?oso o irrelevante. Las barreras tambi¨¦n pueden usarse para proteger a las aplicaciones LLM de usuarios malintencionados que intenten abusar del sistema mediante t¨¦cnicas como la manipulaci¨®n de inputs. Act¨²an como una red de seguridad al establecer l¨ªmites para que el modelo procese y genere contenido. Existen algunos frameworks emergentes en este ¨¢mbito como NeMo Guardrails, y que nuestros equipos han encontrado ¨²tiles. Recomendamos que toda aplicaci¨®n de LLM tenga guardrails implementadas y que sus reglas y pol¨ªticas se mejoren continuamente. Son cruciales para construir aplicaciones de chat responsables y confiables con LLMs.
