#models 每日趋势报告

可在本地运行AI的生产就绪工具包

使用单张4GB GPU实现AirLLM 70B推理

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

OpenVINO™是用于优化和部署AI推理的开源工具套件

OpenSCAD - 程序员专用的实体3D CAD建模工具

🪢 Langfuse 文档 —— Langfuse 是开源的 LLM 工程平台。提供可观测性、评估、提示词管理、游乐场和指标功能，用于调试和改进 LLM 应用