项目竞品
共找到 10 个竞品
openvinotoolkit/openvino
OpenVINO™是用于优化和部署AI推理的开源工具套件
cactus-compute/cactus
在手机、可穿戴设备及AI原生硬件上本地运行人工智能
jd-opensource/xllm
专为多种AI加速器优化的大语言模型高性能推理引擎。
gitleaks/gitleaks
使用Gitleaks 🔑 发现密钥 （注：根据技术文档惯例，"secrets"在此语境中指代密钥、凭证等敏感信息，采用"密钥"译法符合行业标准；保留工具名称"Gitleaks"不译；添加"使用"二字使中文表达更完整自然；表情符号位置根据中文阅读习惯调整）
mistralai/mistral-inference
Mistral模型官方推理库
katanemo/plano
智能体应用交付基础设施——Plano是面向AI原生的代理与数据平面，可卸载底层管道工作，让您专注于智能体核心逻辑开发（支持任意AI框架）。
flashinfer-ai/flashinfer
FlashInfer：大语言模型服务的核心计算库
NVIDIA/GenerativeAIExamples
面向加速基础设施与微服务架构优化的生成式AI参考工作流
ruvnet/ruvector
RuVector是一款用Rust构建的高性能向量与图数据库，专为人工智能、智能体系统和实时分析设计。它将HNSW搜索、动态最小割一致性、图智能与自学习记忆融合为统一引擎，实现可扩展、低延迟的推理与结构化检索。
timmyy123/LLM-Hub
安卓本地人工智能助手
相关项目推荐
tensorflow/tensorflow
面向所有人的开源机器学习框架
facebook/react-native
一个使用React构建原生应用程序的框架
electron/electron
使用 JavaScript、HTML 和 CSS 构建跨平台桌面应用程序
godotengine/godot
Godot引擎——跨平台2D与3D游戏引擎
microsoft/terminal
全新Windows Terminal与经典Windows控制台主机，集于一处！
ggml-org/llama.cpp
使用 C/C++ 实现的大语言模型推理框架