❤️❤️❤️❤️❤️❤️ 我们已经正式推出微信小程序,在微信中搜索 TrendForge Pro 即可使用小程序,如果使用 Telegram 请搜索 trendforge_tg ❤️❤️❤️❤️❤️❤️
项目介绍
专为Apple Silicon打造的LLM推理服务器,具备连续批处理和SSD缓存功能,可通过macOS菜单栏管理
LLM inference server with continuous batching & SSD caching for Apple Silicon — managed from the macOS menu bar
智能解读
智能标签
使用场景
项目健康度
距上次更新 5 天
平台 Star TOP 5% · Forks 1,371
本周 +707 ⭐ · 本月 +9,477 ⭐
46 位贡献者 · 0 条平台评论
缺少 2 项内容
项目信息
赞赏支持
如果本站对你有帮助,欢迎打赏支持
微信
支付宝
Widget 徽章
相关项目推荐
public-apis/public-apis
免费API资源汇总列表
EbookFoundation/free-programming-books
📚 免费提供的编程书籍
donnemartin/system-design-primer
学习如何设计大规模系统。为系统设计面试做准备。包含Anki记忆卡片。
vinta/awesome-python
精心整理的优质Python框架、库、软件及资源列表
TheAlgorithms/Python
所有算法均使用Python实现
NousResearch/hermes-agent
与你共同成长的智能体
加载评论中...