MnnLlmApp是什么
MnnLlmApp 是阿里巴巴基于 MNN-LLM 框架开源的 Android 手机应用,支持各类大语言模型(LLM)在手机上离线运行。具备多模态功能,能实现文本生成文本、图像生成文本、音频转文本以及文本生成图像等多种任务。应用对 CPU 推理进行了深度优化,预填充速度和解码速度均显著优于同类产品,确保高效的本地运行。 MnnLlmApp 支持多种主流模型,如 Qwen、Gemma、Llama 等,用户可以根据需要选择不同的模型进行任务处理。

来源:爱论文 时间:2025-03-24 12:44:13
MnnLlmApp 是阿里巴巴基于 MNN-LLM 框架开源的 Android 手机应用,支持各类大语言模型(LLM)在手机上离线运行。具备多模态功能,能实现文本生成文本、图像生成文本、音频转文本以及文本生成图像等多种任务。应用对 CPU 推理进行了深度优化,预填充速度和解码速度均显著优于同类产品,确保高效的本地运行。 MnnLlmApp 支持多种主流模型,如 Qwen、Gemma、Llama 等,用户可以根据需要选择不同的模型进行任务处理。
MnnLlmApp 是阿里巴巴基于 MNN-LLM 框架开源的 Android 手机应用,支持各类大语言模型(LLM)在手机上离线运行。具备多模态功能,能实现文本生成文本、图像生成文本、音频转文本以及文本生成图像等多种任务。
AI教程资讯
2023-04-14
DynamicFace是小红书团队推出新型的视频换脸技术,技术通过结合扩散模型和即插即用的时间层,基于3D面部先验知识,实现高质量和一致性的视频换脸效果。 DynamicFace的核心在于引入了四种精细的面部条件:背景、形状感知的法线图、表情相关的地标和去除身份信息的UV纹理图。
AI教程资讯
2023-04-14
Gemini 2 0 Pro是Google推出的高性能实验版AI模型,专为编程性能和复杂提示处理优化。Gemini 2 0 Pro具备200万tokens的超大上下文窗口,能处理和分析海量信息,支持调用Google搜索和代码执行等工具,增强理解和推理能力。
AI教程资讯
2023-04-14
Open Deep Research 是开源的 AI 智能体,是Deep Research开源复现项目,基于推理大量网络数据完成复杂的多步骤研究任务。Open Deep Research使用 Firecrawl 的搜索和提取功能,不依赖 OpenAI 的 o3 微调模型。
AI教程资讯
2023-04-14