#llama 每日趋势报告

🪢 开源LLM工程平台：LLM可观测性、指标评估、提示管理、游乐场、数据集。与OpenTelemetry、Langchain、OpenAI SDK、LiteLLM等工具集成。🍊YC W23

Jan是ChatGPT的开源替代方案，可在您的计算机上完全离线运行。

隐私优先、自托管、完全开源的个人知识管理软件，使用 TypeScript 和 Golang 编写

llama.cpp（或任何兼容本地OpenAI API的服务器）的模型热替换

此仓库包含 Hugging Face 智能体课程

OpenWebUI 原生移动客户端，与自托管 AI 进行对话

🧊 开源大语言模型可观测性平台。一行代码实现监控、评估与实验。YC W23 🍓

具备容错能力、高度可扩展的GPU编排系统，以及专为训练数十亿至数万亿参数模型设计的机器学习框架

LLM辅助代码/文本补全的Vim插件

Koog是官方Kotlin框架，用于在所有平台上构建和运行稳健、可扩展且满足生产就绪要求的AI智能体——从后端服务到Android与iOS、JVM乃至浏览器环境均可部署。该框架基于我们在AI产品领域的专业经验，针对复杂的LLM与人工智能问题提供了经过实践验证的解决方案。

Strands智能体SDK技术文档。采用模型驱动方法，仅需几行代码即可构建AI智能体。

顶尖自然语言处理技术

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。