Com a popularidade dos modelos de linguagem de grande porte (LLMs) e dos agentes autônomos, a observabilidade de LLMs está se tornando cada vez mais importante. Anteriormente, recomendamos plataformas como o Langfuse e Weights & Biases (W&B). A Arize Phoenix é outra plataforma emergente nesse espaço, e nossa equipe teve uma experiência positiva ao utilizá-la. Ela oferece recursos padrões, como rastreamento de LLMs, avaliação e gerenciamento de prompts, com integração fluída com os principais provedores e frameworks de LLMs. Isso facilita a obtenção de insights sobre as respostas dos modelos, latência e uso de tokens com configuração mínima. Até agora, nossa experiência se limita à ferramenta de código aberto, mas a plataforma Arize mais ampla oferece recursos ainda mais abrangentes. Estamos ansiosas para explorá-la no futuro.
