MNN-CV: An OpenCV-like library, but based on MNN and then much more lightweight. MNN-Train: Support train MNN model. How to Discuss and Get Help From the MNN Community

2025年2月1日 · MNN 是阿里巴巴开发的开源深度学习推理框架，专注于移动端优化，特别是针对 ARM 架构进行的优化。 移动端优化 ：专为 Android 和 iOS 设备进行的优化。 支持多平台 ：支持 ARM、NPU 和 GPU 等硬件加速。 灵活性 ：能够加载 TensorFlow、Caffe、ONNX 等多种模型。 NCNN 是腾讯推出的轻量级深度学习推理框架，针对移动设备和低资源设备进行了优化。 低内存消耗 ：特别优化了内存管理，适合资源受限设备。 高效计算 ：支持多种优化技术，如低精度计 …

MNN-LLM: A Generic Inference Engine for Fast Large Language Model Deployment on Mobile Devices. 论文地址： https:// dl.acm.org/doi/pdf/10.1 145/3700410.3702126. 源码地址： https:// github.com/alibaba/MNN. 运行文档： 大语言模型 - MNN-Doc 2.1.1 documentation. 文章发表在MMAsia'24: ACM Multimedia Asia Workshops会议 ...

MNN-Express ：支持带控制流的模型运行，支持调用 MNN 的算子进行自定义的计算。 MNN-CV ：类似 OpenCV ，但核心计算功能基于 MNN 实现的图像处理算法库. MNN-Train ：MNN 训练模块，支持各平台训练. 社区交流与反馈 . 钉钉群组： 钉钉群1:23329087. 钉钉群2:23350225

MNN（Mobile Neural Network）是阿里巴巴集团开源的轻量级深度学习推理框架，为移动端、服务器、个人电脑、嵌入式设备等多种设备提供高效的模型部署能力。

欢迎使用MNN文档 . 遇到问题请先查看文档和FAQ，如果没有答案请在Github提issue或在钉钉群提问。

2025年1月1日 · MNN（Mobile Neural Network）是阿里巴巴集团开源的轻量级深度学习推理框架，旨在为移动端、服务器、个人电脑和嵌入式设备提供高效的模型部署能力。 它支持 TensorFlow、Caffe、ONNX 等主流模型格式，兼容 CNN、RNN、GAN 等多种网络结构。

离线就是很传统的模型转换、优化、压缩、量化的那一套东西，这里mnn转出的模型文件，后缀是.mnn的。 设备上的在线推理有三个部分：预推理、kernel优化和后端抽象。

MNN当前支持Tensorflow (Lite)、Caffe和ONNX的模型转换。 模型转换工具可以参考 编译文档 和 使用说明。 支持转换的算子，可以参考 算子列表文档；在遇到不支持的算子时，可以尝试 自定义算子，或在Github上给我们 提交issue。 此外， 模型打印工具 可以用于输出模型结构，辅助调试。 除模型转换外，MNN也提供了 模型量化工具，可以对浮点模型进行量化压缩。 在端侧加载MNN模型进行推理的阶段。 端侧运行库的编译请参考各平台的编译文档： iOS 、 Android 、 …

2024年10月30日 · MNN（Mobile Neural Network）是由阿里巴巴开源的轻量级深度学习框架，特别适用于移动设备和嵌入式设备上运行神经网络模型。MNN提供了一系列工具，可以将训练好的模型转换为适用于MNN运行的格式，并且提供了高效的...