#gpt 每日趋势报告

使用单张4GB GPU实现AirLLM 70B推理

开始使用OpenAI gpt-oss、DeepSeek-R1、Gemma 3及其他模型。

面向大语言模型的高吞吐量与内存优化型推理服务引擎

21堂课带你入门生成式AI开发

🐙 提示工程指南、论文、讲座、笔记本及资源

OpenAI API 使用示例与指南

LLM API 管理与分发系统，支持 OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360 智脑、腾讯混元等主流模型，统一 API 适配，可用于密钥管理与二次分发。单可执行文件，提供 Docker 镜像，一键部署，开箱即用。

原生macOS菜单栏应用，可通过AI编程工具使用您的Claude Code与ChatGPT订阅服务——无需API密钥

短信转发器——监控Android手机短信、来电、APP通知，并根据指定规则转发到其他设备：钉钉群自定义机器人、钉钉企业内机器人、企业微信群机器人、飞书机器人、企业微信应用消息、邮箱、bark、webhook、Telegram机器人、Server酱、PushPlus、手机短信等。包含主动控制服务端与客户端，支持远程发短信、查短信、查通话、查通讯录、查电量等功能。（V3.0 新增）注：此APK主要为学习与自用，如有BUG请提交ISSUE，欢迎提交PR指正

为企业级智能体提供包含真实工具的开源安全环境。

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

⭕ 为开发者分享快速参考速查表。

为OpenAI/Anthropic/Gemini/Bedrock/OpenRouter/DeepSeek/Ollama/VertexAI/Perplexity/Mistral/GPUStack及OpenAI兼容API提供统一的Ruby接口。支持聊天、视觉、音频、PDF、图像、嵌入、工具、流式传输及Rails集成。

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。