MNN/project/android/apps/MnnLlmApp/README_CN.md at …
MNN-LLM 是一个多功能的推理框架，旨在优化和加速大语言模型在移动设备和本地 PC 上的部署。 通过模型量化、混合存储和硬件特定优化等创新措施，解决高内存消耗和计算成本等挑战 …
MNN Chat 大模型 app新版本免费下载 - 阿里巴巴开源的全功能多 …
CPU推理优化：在安卓设备上，MNN-LLM 展现出卓越的CPU性能。与 llama.cpp 相比，预填充速度提升 8.6 倍，解码速度提高 2.3 倍；相较于 fastllm，预填充速度提升 20.5 倍，解码速度快 …
MNN-LLM : 移动设备上快速部署LLM模型通用推理引擎 - 知乎
MNN-LLM: A Generic Inference Engine for Fast Large Language Model Deployment on Mobile Devices. 论文地址： https:// dl.acm.org/doi/pdf/10.1 145/3700410.3702126. 源码地址： …
MNN - 阿里开源的移动端深度学习推理框架 | AI工具集
MNN（Mobile Neural Network）是阿里巴巴集团开源的轻量级深度学习推理框架，为移动端、服务器、个人电脑、嵌入式设备等多种设备提供高效的模型部署能力。
mnn-llm手机端部署大语言模型 - GitHub
2024年4月8日 · 本项目实现了基于mnn-llm的模型转换，windows下的编译和基于QT的android端的编译和调用，并测试了Qwen1.5-0.5B模型在android端的部署。 在将深度学习模型从研究原型 …
MNN推理框架将大模型放进移动端设备，并达到SOTA推理性能！
为了在更广泛的设备上部署大模型，MNN团队开发了 MNN-LLM / MNN-Diffusion，合称 MNN-Transformer ，支持大语言模型和文生图等AIGC模型，具有如下特性： -支持各类LLM …
MNN-LLM-Android：MNN 多模态语言模型的安卓应用-首席AI分 …
2025年1月27日 · MNN（Mobile Neural Network）是阿里巴巴开发的一个高效、轻量级的深度学习框架，专为移动端设备优化。 MNN不仅能够在移动设备上进行快速推理，还支持多模态任 …
MNN：阿里开源的轻量级深度学习推理框架，支持在移动端等多 …
2025年1月1日 · MNN（Mobile Neural Network）是阿里巴巴集团开源的轻量级深度学习推理框架，旨在为移动端、服务器、个人电脑和嵌入式设备提供高效的模型部署能力。 它支持 …
MNN 大模型 Android App-一款支持多模态功能的全功能大语言模 …
MNN 大模型 Android App 是阿里巴巴开发的一款基于大语言模型（LLM）的安卓应用。 它支持多种模态输入和输出，包括文本生成、图像识别、音频转录等。 该应用通过优化推理性能，确 …
MNN介绍、安装和编译 - CSDN博客
2024年3月30日 · MNN（Mobile Neural Network）是一个轻量级的深度学习框架，专为移动端和嵌入式设备优化。 它支持多种平台，包括iOS、Android、Linux和Windows，以及多种主流模型 …