❤️❤️❤️❤️❤️❤️ 我们已经正式推出微信小程序,在微信中搜索 TrendForge Pro 即可使用小程序,如果使用 Telegram 请搜索 trendforge_tg ❤️❤️❤️❤️❤️❤️

2026-05-04
🏷️

#inference 每日趋势报告

📅 2026-05-04
📊 4 个项目

🔥 #inference 每日热门项目

raullenchai/Rapid-MLX

专为Apple Silicon打造的最快本地AI引擎。比Ollama快4.2倍,缓存TTFT仅0.08秒,100%工具调用。支持17种工具解析器、提示缓存、推理分离与云路由。可直接替代OpenAI,兼容Claude Code、Cursor、Aider。

1.1k
170
155
+200
排名 #7
5月4日
查看详情

ggml-org/whisper.cpp

OpenAI Whisper模型的C/C++移植版本

49k
5.5k
827
+38
排名 #9
5月4日
查看详情

thu-ml/SageAttention

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升,且在语言、图像和视频模型上保持端到端指标无损。

3.3k
404
352
+5
排名 #1
5月4日
查看详情

alibaba/rtp-llm

RTP-LLM:阿里巴巴面向多样化应用的高性能大语言模型推理引擎。

1.1k
180
391
+1
排名 #12
5月4日
查看详情

📊 数据统计

4 个热门项目
2026-05-04 数据日期

🔥 TrendForge - 追踪开源项目热度,发现技术趋势

助手