llm-observability
话题找到数量
langfuse/langfuse
🪢 开源LLM工程平台:LLM可观测性、指标评估、提示管理、游乐场、数据集。与OpenTelemetry、Langchain、OpenAI SDK、LiteLLM等工具集成。🍊YC W23
24k
2.4k
128
+78
comet-ml/opik
通过全面的追踪、自动化评估和生产就绪的仪表盘,调试、评估并监控您的LLM应用、RAG系统和智能体工作流。
17k
1.4k
212
+44
maximhq/bifrost
最快的LLM网关,性能超越LiteLLM达50倍,具备自适应负载均衡器、集群模式、防护机制,支持1000多种模型,在5k RPS下延迟低于100微秒
3.5k
385
196
+216
memodb-io/Acontext
自学习智能体的上下文数据平台。为智能体提供存储、观察与学习的统一场所。旨在简化上下文工程,提升智能体可靠性与任务成功率。
2.9k
265
180
+8