#llm 每日趋势报告

点亮AI智能体的终极训练器

点亮AI智能体的终极训练器

面向AI的网页数据API——将整个网站转换为LLM就绪的Markdown或结构化数据🔥

可在本地运行AI的生产就绪工具包

使用单张4GB GPU实现AirLLM 70B推理

专为语言学习打造的媒体播放器，具备双语字幕、AI生成字幕、实时翻译等功能！

🐙 提示工程指南、论文、讲座、笔记本及资源

面向高级用户的大语言模型前端

面向桌面的情境感知AI助手，可智能响应并无缝集成多种大语言模型与MCP工具

最快的LLM网关，性能超越LiteLLM达50倍，具备自适应负载均衡器、集群模式、防护机制，支持1000多种模型，在5k RPS下延迟低于100微秒

一个Unity MCP服务器，允许MCP客户端（如Claude Desktop或Cursor）执行Unity编辑器操作。

面向AI应用的开源搜索与检索数据库。

🦄🦄🦄AI赋能股票分析：智能股票分析/选股工具。支持实时行情获取、AI热点资讯解析、资金/财务智能分析、涨跌预警推送。覆盖A股/港股/美股，提供市场整体与个股情绪分析、AI辅助选股功能。所有数据本地存储，支持DeepSeek/OpenAI/Ollama/LMStudio/AnythingLLM/硅基流动/火山方舟/阿里云百炼等平台与模型

✍ 微信Markdown编辑器 | 一款高度简洁的微信Markdown编辑器：支持Markdown语法、自定义主题样式、内容管理、多图床、AI助手等特性

✨ AI 编程，Vim 风格

利用大语言模型和大语言模型视觉技术处理paperless-ngx——由AI驱动的文档数字化方案

llama.cpp（或任何兼容本地OpenAI API的服务器）的模型热替换

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

基于Flutter框架的LLM聊天客户端，支持Android、iOS及Harmony Next系统。

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

AI辅助长篇小说创作工具，采用卡片式创作模式，支持基于JSON Schema的结构化AI生成与上下文引用，具备高度可扩展性。

ChatWiki 微信公众号的AI知识库工作流Agent平台，RAG大模型AI客服机器人，致力于成为垂直领域的coze、n8n。

快速轻松地将尖端LLM技术集成到您的应用中。

LLM辅助代码/文本补全的Vim插件

💃 在代码中与智能共舞。Minuet提供实时代码补全功能，支持OpenAI、Gemini、Claude、Ollama、Llama.cpp、Codestral等主流大型语言模型。

如何在CUDA中优化某些算法

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。