¨¦ um kit de ferramentas de c¨®digo aberto da NVIDIA, considerado f¨¢cil de usar, que capacita desenvolvedoras a implementar restri??es para modelos de linguagem de grande porte (LLMs) usados em aplica??es conversacionais. Desde a ¨²ltima vez que o mencionamos no Radar, o NeMo tem sido amplamente adotado por nossas equipes e continua a evoluir. Muitas das melhorias mais recentes do NeMo Guardrails focam na expans?o das integra??es e no fortalecimento da seguran?a, dados e controle, alinhando-se ao objetivo central do projeto.
Uma grande atualiza??o na do NeMo melhorou sua usabilidade, e novas integra??es foram adicionadas, incluindo e , juntamente com suporte ao Colang 2.0. As principais atualiza??es incluem melhorias na , bem como um lan?amento recente que permite o streaming de conte¨²do de LLMs atrav¨¦s de trilhos de sa¨ªda (output rails) para melhor desempenho. Tamb¨¦m vimos suporte adicional para . Al¨¦m disso, a Nvidia tr¨ºs novos microsservi?os: , e , todos integrados ao NeMo Guardrails.
Com base no conjunto crescente de funcionalidades e no aumento do uso em produ??o, estamos movendo o NeMo Guardrails para a fase de Teste. Recomendamos revisar as ¨²ltimas para obter uma vis?o completa das mudan?as desde o nosso ¨²ltimo blip.
¨¦ um kit de ferramentas de c¨®digo aberto f¨¢cil de usar da NVIDIA que permite que pessoas desenvolvedoras implementem guardas para modelos de linguagem de grande porte (LLMs) utilizados em aplica??es conversacionais. Embora os LLMs tenham um imenso potencial para construir experi¨ºncias interativas, suas limita??es inerentes em rela??o ¨¤ precis?o factual, vieses e potencial uso indevido exigem salvaguardas. Os guardrails oferecem uma abordagem promissora para garantir LLMs respons¨¢veis e confi¨¢veis. Apesar de haver outras op??es de guardrails para LLM, nossas equipes consideram o NeMo Guardrails particularmente ¨²til porque ele suporta regras program¨¢veis, integra??o em tempo de execu??o e pode ser aplicado a aplica??es LLM existentes sem extensas modifica??es no c¨®digo.
