IT之家·人工智能·· 21 天前
面壁智能发布端侧多模态大模型 MiniCPM-V 4.7,3GB 内存可跑 13+ token/s
AI 导读
面壁智能于 10 月 13 日推出端侧多模态大模型 MiniCPM-V 4.7,提供 35B-A3B 和 1B 两种规格,其中 35B-A3B 是该系列首个 MoE 模型,基于 LES 推理加速技术,在 iPhone 17 Pro Max 上以仅 3GB 内存实现 13+ token/s 解码速度。
来源:IT之家·人工智能 · ithome.com