Con la creciente popularidad de los modelos de lenguaje extenso (LLM) y de las aplicaciones impulsadas por agentes, la observabilidad de estos modelos cobra cada vez mayor relevancia. En el pasado, hemos recomendado plataformas como Langfuse y Weights & Biases (W&B). representa otra plataforma emergente en este ¨¢mbito, con la cual nuestro equipo ha tenido una experiencia positiva. Ofrece funciones est¨¢ndar como seguimiento de modelos (LLM tracing), evaluaci¨®n y gesti¨®n de prompts, adem¨¢s de una fluida con los principales proveedores y frameworks de LLM. Esto facilita la recopilaci¨®n de informaci¨®n sobre la salida de los modelos, la latencia y el uso de tokens con una configuraci¨®n m¨ªnima. Hasta el momento, nuestra experiencia se limita a la herramienta de c¨®digo abierto, pero la plataforma m¨¢s amplia de ofrece funcionalidades m¨¢s completas. Confiamos en poder explorar en mayor detalle en el futuro.
