LLM Guardrails ¨¦ um conjunto de diretrizes, pol¨ªticas ou filtros projetados para evitar que modelos de linguagem de grande porte (LLMs) gerem conte¨²do prejudicial, enganoso ou irrelevante. Os guardrails tamb¨¦m podem ser usados para proteger aplica??es de LLMs contra usu¨¢rias mal-intencionadas que tentem manipular o sistema com t¨¦cnicas como a manipula??o de entrada. Elas atuam como uma rede de seguran?a, estabelecendo limites para o modelo ao processar e gerar conte¨²do. Existem alguns frameworks emergentes nesse espa?o, como o NeMo Guardrails, e , que nossas equipes t¨ºm achado ¨²teis. Recomendamos que toda aplica??o que utilize LLMs tenha guardrails implementados e que suas regras e pol¨ªticas sejam continuamente aprimoradas. Eles s?o cruciais para construir aplica??es de chat com LLMs que sejam respons¨¢veis e confi¨¢veis.
