Com a popularidade dos modelos de linguagem de grande porte (LLMs) e dos agentes aut?nomos, a observabilidade de LLMs est¨¢ se tornando cada vez mais importante. Anteriormente, recomendamos plataformas como o Langfuse e Weights & Biases (W&B). A ¨¦ outra plataforma emergente nesse espa?o, e nossa equipe teve uma experi¨ºncia positiva ao utiliz¨¢-la. Ela oferece recursos padr?es, como rastreamento de LLMs, avalia??o e gerenciamento de prompts, com com os principais provedores e frameworks de LLMs. Isso facilita a obten??o de insights sobre as respostas dos modelos, lat¨ºncia e uso de tokens com configura??o m¨ªnima. At¨¦ agora, nossa experi¨ºncia se limita ¨¤ ferramenta de c¨®digo aberto, mas a plataforma mais ampla oferece recursos ainda mais abrangentes. Estamos ansiosas para explor¨¢-la no futuro.
