MiniCPM系列模型作为一套超高效的开源设备端AI解决方案,旨在为边缘芯片提供显著的速度提升和强大的性能表现。该系列还包含高度量化的BitCPM版本,进一步优化了效率。
最新发布的MiniCPM5-1B模型是MiniCPM系列的第八次重大迭代。它被誉为边缘紧凑型开放模型的新一代SOTA(State-of-the-Art)产品。
MiniCPM5-1B是一个1B参数的密集型开放模型,专为设备端和本地部署场景而设计。其核心亮点包括:支持高达131K的长上下文窗口,引入了独特的“Think / No Think”模式,具备强大的工具调用能力,兼容GGUF和MLX等主流模型格式,并支持多种推理后端。值得一提的是,它甚至可以为离线桌面宠物提供智能驱动,展现了其在多样化应用场景中的潜力。