Tencent/ncnn
项目介绍
ncnn专为移动平台优化的高性能神经网络推理框架
ncnn is a high-performance neural network inference framework optimized for the mobile platform
智能解读
ncnn是一个由腾讯开源的高性能神经网络推理框架，专为移动和嵌入式平台进行深度优化。它从设计之初就充分考虑了在手机等资源受限设备上的部署需求，具有无第三方依赖、跨平台的特点，在移动端CPU上的运行速度通常优于其他已知的开源框架。该框架支持将来自主流深度学习训练框架（如PyTorch、TensorFlow、ONNX等）的模型高效部署到Android、iOS等平台，使开发者能够便捷地开发出集成人工智能功能的应用程序。ncnn凭借其出色的性能，已广泛应用于腾讯旗下的QQ、微信、天天P图等多款产品中。
原始标签
使用场景
最适合在移动设备和边缘计算场景中高效部署轻量级神经网络模型，实现低延迟、离线化的AI功能。
移动端实时人脸识别
开发者需要在Android/iOS应用中集成人脸检测功能，但现有框架在手机CPU上运行缓慢，影响用户体验。
使用ncnn部署轻量级人脸检测模型（如MTCNN、RetinaFace），其针对ARM架构优化，能在手机CPU上实现实时检测。
在社交APP中实现拍照时自动识别人脸并添加贴纸，处理速度可达30FPS以上。
离线图像风格迁移
用户希望在手机相册中实时应用艺术滤镜，但云端AI服务需要网络且延迟高，无法满足离线使用需求。
通过ncnn将训练好的风格迁移模型（如基于MobileNet的轻量模型）部署到APP中，完全离线运行且响应迅速。
图片编辑APP内置多种艺术风格滤镜，用户选择后立即看到效果，无需上传图片到服务器。
边缘设备目标检测
在树莓派等资源受限的边缘设备上部署YOLO等目标检测模型时，现有框架内存占用大、推理速度慢。
使用ncnn的跨平台特性，将优化后的YOLOv5/v8模型部署到ARM设备，利用NEON指令集加速，显著提升FPS。
智能门禁系统在树莓派4B上实时检测画面中的人、车、宠物，延迟低于100ms。
多框架模型统一部署
团队使用PyTorch、TensorFlow等多种框架训练模型，但为每个框架单独开发移动端推理代码工作量大且维护困难。
通过ONNX或项目自带的PNNX工具将不同框架模型转换为ncnn格式，使用同一套C++代码在移动端统一部署。
电商APP同时需要商品识别（PyTorch训练）和图像质量评估（TensorFlow训练），通过ncnn统一集成到Android应用中。
项目健康度
距上次更新 5 天
平台 Star TOP 9% · Forks 4,417
本周 +58 ⭐ · 本月 +232 ⭐
343 位贡献者 · 0 条平台评论
文档资料完整
项目信息
赞赏支持
如果本站对你有帮助，欢迎打赏支持
微信
支付宝
Widget 徽章
相关项目推荐
tensorflow/tensorflow
面向所有人的开源机器学习框架
facebook/react-native
一个使用React构建原生应用程序的框架
electron/electron
使用 JavaScript、HTML 和 CSS 构建跨平台桌面应用程序
godotengine/godot
Godot引擎——跨平台2D与3D游戏引擎
ggml-org/llama.cpp
使用 C/C++ 实现的大语言模型推理框架
microsoft/terminal
全新Windows Terminal与经典Windows控制台主机，集于一处！
加载评论中...