MiniCPM-V 4.6 排名：1.3B端侧多模态模型实测对比

5月11日，面壁智能联合清华大学和OpenBMB开源社区，正式发布全新一代端侧多模态大模型MiniCPM-V4.6。别看参数规模仅1.3B，凭借极高的智能密度与跨平台兼容性，它在轻量化路径上实现了实质突破，直接加速端侧AI规模化落地进程。

一、性能突破：1.3B 参数实现“跨级超越”

MiniCPM-V4.6同步推出Instruct和Thinking两个版本。实测结果显示，它在多项权威评测中的认知与推理能力显著超越同体量模型，甚至逼近参数量翻倍的竞品：

• 全球领先： 在Artificial Analysis（AA）榜单上，MiniCPM-V4.6斩获13分，领先阿里Qwen3.5-0.8B、谷歌Gemma4-E2B-it等同类模型。其表现已逼近参数量翻倍的Qwen3.5-2B，稳居1B级模型性能榜首。
• 全能表现： 覆盖通用图文理解、STEM复杂数理推演、高难度文档OCR识别、视频时序建模等场景。Thinking版本在多图联合推理与对抗幻觉方面表现尤为突出。

二、效率跃升：端侧部署的“高密低耗”新范式

终端设备资源受限是长期痛点。MiniCPM-V4.6在运行效率与内存占用上做了针对性优化：

• 轻量门槛： 最低仅需6GB运行内存，专为手机、PC、IoT设备设计。
• 极速响应： 基于vLLM的推理吞吐率是竞品的1.5倍。处理3136²超高清图像时，首帧延迟仅75.7ms，速度提升2.2倍。
• 强劲吞吐： 单张显卡可实现7013 token/s的文本生成速度，同时以54.79张/秒（1344²分辨率）处理图像，端侧表现令人印象深刻。

三、技术底座：LLaVA-UHD v4驱动极致精简

模型“小而强”的核心源于面壁智能与清华大学联合研发的LLaVA-UHD v4架构。该架构的关键设计包括：

• 编码革新： 在ViT图像编码器中引入浅层压缩模块，将图像编码开销降低50%，高分辨率浮点计算量减少55.8%。
• 弹性压缩： 首创4倍/16倍混合Token压缩机制，支持模型在“精度优先”与“速度优先”模式间灵活切换。该技术已在快手OneRec推荐大模型中完成大规模验证，稳定支撑亿级日活流量。

四、生态协同：从开源代码到真实场景

MiniCPM-V4.6全面开源，标志着端侧多模态AI加速进入产业化阶段：

• 开发友好： 深度兼容ms-swift、LLaMA-Factory等主流微调框架。开发者使用单张RTX4090即可进行全参数微调，门槛大幅降低。
• 全栈支持： 兼容vLLM、Ollama等主流推理引擎，同时发布iOS、Android、HarmonyOS多平台测试版，AI能力无缝延伸至各类终端。
• 产业落地： 已在智能汽车、PC、智能家居、工业质检等垂直领域实现商用部署，合作方包括联想、吉利、上汽大众、小米、OPPO等头部企业。

随着MiniCPM-V4.6全面开源，端侧多模态大模型的技术门槛已被实质性打破。未来AI将不再局限于云端大型服务器，而是深度嵌入每一台终端设备，演化为用户身边实时响应、持续进化的“随身智慧中枢”。