README

MiniCPM-V & MiniCPM-o · 把看、听、交互，带到你的端侧设备上。


  MiniCPM-V 4.7 🤗 35B-A3B 🤗 1B 🤖
   
  MiniCPM-o 4.5 🤗 🤖



  模型概览  ·  开始使用  ·  项目资源  |  中文 · English




 最新动态

- [2026.10.28] 🔥🔥🔥 我们开源了 MiniCPM-OCR 套件，包含两个模型，兼顾快速准确解析与质量把关：MiniCPM-OCR 1.0（基于 MiniCPM-V 4.6，Real5-OmniDocBench 与 OCRBench v2 SOTA）和用于结果正确性检查的 MiniCPM-OCR Jev。
- 2026-10-15 · 我们发布了 MiniCPM-V 4.7 的 DSpark 投机采样头，两个尺寸均提供 BF16 和 GGUF 版本：1B（DSpark-BF16、DSpark-GGUF）和 35B-A3B（DSpark-BF16、DSpark-GGUF）。
- 2026-10-12 · MiniCPM-V 4.7 发布 — 首个端侧无损流畅运行的开源 MoE 模型，刷新多模态性能—效率帕累托前沿。查看这一代的新变化。

 MiniCPM-V 4.7

MiniCPM-V 4.7 是 MiniCPM-V 系列的最新模型，提供 35B-A3B 和 1B 两种规格，其中 35B-A3B 是 MiniCPM-V 系列首个 MoE 模型。主要特点包括：

- 🚀 性能与效率的新帕累托前沿。 MiniCPM-V 4.7 以 35B-A3B 与 1B 分别刷新了多模态大模型的性能—效率的帕累托前沿。在 Instruct 模式下，35B-A3B 以更短的推理时间取得比 Qwen3.6 35B-A3B 更高的综合得分；1B 版本相比 MiniCPM-V 4.6 持续提升基础能力，并在综合得分和推理效率上均显著领先 Qwen3.5 0.8B。
- 📱 首个端侧无损流畅的开源 MoE。基于最新的 LES（前瞻专家调度） 推理加速技术，MiniCPM-V 4.7 35B-A3B 成为首个支持端侧无损流畅运行的开源 MoE 模型，在 iPhone 17 Pro Max 上以仅 3GB 内存达到 13+ token/s 的解码速度。我们也适配了 DSpark 投机采样，并提供 1B（DSpark-BF16、DSpark-GGUF）和 35B-A3B（DSpark-BF16、DSpark-GGUF）的投机采样头。
- 🛠️ 多平台支持，开发者友好。 MiniCPM-V 4.7 同时支持 iOS、安卓和鸿蒙，并适配Intel、AMD、Arm、瑞芯微、后摩等芯片平台，覆盖更多移动设备与本地计算场景。同步开源 Self-Replay Fine-Tuning (SRFT) 微调方案，帮助开发者低成本扩展模型能力和减少遗忘，方便二次开发。

 刷新性能与推理效率的帕累托前沿


  


完整性能对比（35B-A3B，Instruct）

Vision-Language


  


Language


  


完整性能对比（1B，Instruct）


  



 无损且流畅的 MoE 端侧推理

让 MoE 在端侧运行只是起点，真正的挑战是同时保留模型能力与流畅的生成速度。将专家权重存放在 SSD 中可以突破内存容量限制，但若加载与计算无法有效并行，频繁的加载等待就会拖慢生成；限制专家数量、固定专家集合等方式虽能提速，却可能以模型能力退化为代价。

为了解决这一两难问题，MiniCPM-V 4.7 提出前瞻专家调度技术，在不牺牲模型能力条件下实现 x5 的端侧真实加速。通过跨层路由预测，提前加载下一层可能用到的专家并优先计算已加载的专家，显著减少了加载等待时间；同时，结合权重量化与存储布局优化策略，减少权重存储重和读取分散的问题，显著提升加载速度。推理优化前后的生成速度对比：


  


 模型权重

MiniCPM-V 4.7 提供 35B-A3B 和 1B 两种规格。每行列出主模型权重及其对应的 DSpark 投机采样头，DSpark 均提供 BF16 和 GGUF 版本。

| 模型 | 简介 | 主&8288;模&8288;型&8288;权&8288;重&8288;下&8288;载 | DSpark 采&8288;样&8288;头 |
|:---|:---|:---|:---|
| MiniCPM&8209;V 4.735B-A3B | 首个可在端侧无损流畅运行的开源 MoE 模型，突破端侧性能上限。 | 🤗   BF16🤗   FP8🤗   int4🤗   AWQ🤗   GPTQ🤗   GGUF | 🤗   BF16🤗   GGUF |
| MiniCPM&8209;V 4.71B | 兼顾能力提升与超高效率，多模态大模型效率-效果帕累托新前沿。 | 🤗   BF16🤗   int4🤗   AWQ🤗   GPTQ🤗   GGUF | 🤗   BF16🤗   GGUF |

1B int4 版本采用 bitsandbytes 量化；AWQ 和 GPTQ 均采用 W4A16 量化。量化版本可降低内存或显存占用；GGUF 权重支持 CPU 推理。

也可通过 Ollama 下载。

 MiniCPM-o 4.5

MiniCPM-o 4.5 是 MiniCPM-o 系列的最新模型，是一个 9B 端到端全模态模型。它可以在生成语音和文字的同时持续接收视频与音频输入，实现边看、边听、边说的实时交互。

模型亮点：

- 🔥 接近 Gemini 2.5 Flash 的视觉能力。 在 OpenCompass 的 8 项主流基准上取得 77.6 的平均分。仅 9B 参数，视觉理解超过 GPT-4o 和 Gemini 2.0 Pro，并在同一模型中支持指令模式与思考模式。
- 🎙 强大的语音能力。 支持音色可配置的中英双语实时语音对话，对话更加自然、富有表现力且稳定。也可通过简单的参考音频进行声音克隆和角色扮演，声音克隆表现超越 CosyVoice2 等优秀 TTS 工具。
- 🎬 全双工、可主动的实时交互。 以端到端的方式同时处理实时连续的视频和音频输入流，并同步生成文本和语音输出流，且互不阻塞。这使得 MiniCPM-o 4.5 能够同时“看、听、说”，提供流畅的实时全模