项目竞品
共找到 20 个竞品
openvinotoolkit/openvino
OpenVINO™是用于优化和部署AI推理的开源工具套件
vllm-project/vllm-ascend
面向昇腾平台的vLLM社区维护硬件插件
vllm-project/vllm
面向大语言模型的高吞吐量与内存优化型推理服务引擎
google-ai-edge/mediapipe
面向直播与流媒体的跨平台可定制机器学习解决方案
m-bain/whisperX
WhisperX：具备词级时间戳标注的自动语音识别系统
alibaba/MNN
MNN是轻量级深度学习推理框架，经过阿里巴巴核心业务场景验证。全模态LLM安卓应用：[MNN-LLM-Android](./apps/Android/MnnLlmChat/README.md)。MNN淘 avatar安卓版 - 本地3D数字人智能：apps/Android/Mnn3dAvatar/README.md
NVIDIA/TensorRT
NVIDIA® TensorRT™是用于NVIDIA GPU高性能深度学习推理的SDK，本仓库包含其开源组件
k2-fsa/sherpa-onnx
基于新一代Kaldi与onnxruntime的离线语音转文字、文字转语音、说话人日志、语音增强、源分离及语音活动检测技术。支持嵌入式系统、Android、iOS、HarmonyOS、树莓派、RISC-V架构、x86_64服务器、WebSocket服务端/客户端，兼容12种编程语言。
argmaxinc/WhisperKit
适用于Apple Silicon设备的本地语音识别
kvcache-ai/Mooncake
Mooncake是Moonshot AI旗下领先大语言模型服务Kimi的部署平台。
cactus-compute/cactus
在手机、可穿戴设备及AI原生硬件上本地运行人工智能
pluja/whishper
通过网页界面100%本地化地将任意音频转录为文本，翻译并编辑字幕。由whisper模型驱动！
huggingface/transformers
🤗 Transformers：面向文本、视觉、音频及多模态模型的尖端机器学习模型定义框架，支持推理与训练全流程。
sgl-project/sglang
SGLang是面向大语言模型与视觉语言模型的高速推理框架。
Zackriya-Solutions/meeting-minutes
一款免费开源、基于人工智能的自托管实时会议记录与纪要生成工具，可完全在本地设备运行（已支持Mac OS和Windows系统，即将新增Linux支持）https://meetily.zackriya.com/ 这就是meetly ai
Blaizzy/mlx-audio
一个基于苹果MLX框架构建的文本转语音、语音转文本及语音转语音库，可在Apple Silicon芯片上实现高效语音分析。
f/prompts.chat
又名Awesome ChatGPT提示词库。分享、发现并收集来自社区的提示词。免费开源——为您的组织提供完全隐私的自托管服务。
langgenius/dify
面向智能体工作流开发的生产就绪平台。
open-webui/open-webui
用户友好型AI交互界面（支持Ollama、OpenAI API等）
microsoft/generative-ai-for-beginners
21堂课带你入门生成式AI开发
相关项目推荐
tensorflow/tensorflow
面向所有人的开源机器学习框架
facebook/react-native
一个使用React构建原生应用程序的框架
electron/electron
使用 JavaScript、HTML 和 CSS 构建跨平台桌面应用程序
godotengine/godot
Godot引擎——跨平台2D与3D游戏引擎
microsoft/terminal
全新Windows Terminal与经典Windows控制台主机，集于一处！
ggml-org/llama.cpp
使用 C/C++ 实现的大语言模型推理框架