项目介绍
通过Python、Android Java和iOS Swift绑定,在GPU、NPU和CPU上运行最新的LLM和VLM模型,快速部署OpenAI gpt-oss、Gemma 3、Qwen3等主流模型。
Run frontier LLMs and VLMs with day-0 model support across GPU, NPU, and CPU, with comprehensive runtime coverage for PC (Python/C++), mobile (Android & iOS), and Linux/IoT (Arm64 & x86 Docker). Supporting OpenAI GPT-OSS, IBM Granite-4, Qwen-3-VL, Gemma-3n, Ministral-3, and more.
智能解读
原始标签
智能标签
使用场景
项目健康度
距上次更新 43 天
平台 Star TOP 27% · Forks 971
本周 +63 ⭐ · 本月 +252 ⭐
25 位贡献者 · 0 条平台评论
缺少 2 项内容
项目信息
赞赏支持
如果本站对你有帮助,欢迎打赏支持
微信
支付宝
Widget 徽章
相关项目推荐
topjohnwu/Magisk
Android魔法面具
JetBrains/kotlin
Kotlin编程语言
square/okhttp
Square为JVM、Android和GraalVM精心打造的HTTP客户端。
gedoor/legado
Legado 3.0阅读器:具备强大控制功能与完整特性的❤️阅读3.0,作为可自定义来源的网络内容阅读工具,为网络文学爱好者提供便捷舒适的试读体验
android/architecture-samples
展示不同架构工具与模式在Android应用实践的示例集合
gkd-kit/gkd
基于无障碍服务、高级选择器和订阅规则的 Android 自定义屏幕点击应用
加载评论中...