#gpt 每日趋势报告

使用单张4GB GPU实现AirLLM 70B推理

使用单张4GB GPU实现AirLLM 70B推理

工作与生活的终极空间——在这里，您可以寻找、构建并与智能体队友协作，共同成长。我们将智能体协作提升至全新高度——实现多智能体协同、轻松设计智能体团队，并引入智能体作为工作交互的基本单元。

🐙 提示工程指南、论文、讲座、笔记本及资源

本仓库展示检索增强生成系统的多种先进技术，该系统通过结合信息检索与生成模型来提供精准且上下文丰富的响应

RikkaHub是一款支持多种LLM提供商的Android应用

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

LangChain的Java实现版本

集成任务、笔记、日历、日记和书签的全能生产力应用与AI助手。

Zig推理引擎 — 在AMD GPU和Apple Silicon上运行本地大语言模型推理

⭕ 为开发者分享快速参考速查表。

为E2B云提供动力的基础设施。

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。