2026年9月8日星期二

端侧模型MiniCPM5-2B接入DeepSeek Harness指南 本地Agent部署方案

面壁智能开源端侧模型MiniCPM5-2B,参数仅2B,在4B以下模型中综合评分领先。文章介绍如何将该模型接入DeepSeek Harness,实现本地Agent运行,支持会议纪要处理、简历解析等任务,数据无需上传云端,断网可用且无API调用成本。适合关注端侧AI、本地部署和隐私计算的技术开发者。

Tags:

刚刚,面壁智能小钢炮又上新了。

新的端侧语言基础模型 MiniCPM5-2B 正式开源。

之前介绍过 MiniCPM 系列的其他模型,截止 26 年 8 月,这个系列开源下载量现在已经突破 5000 万了。

端侧模型MiniCPM5-2B接入DeepSeek Harness指南 本地Agent部署方案

其它系列的模型介绍,感兴趣的可以去看 MiniCPM 主仓库,有相关介绍。

这个系列都是更高的智能密度,让大模型可以运行在手机、电脑等本地设备上。

这个刚开源的只有 2B 大小。

已经初具端侧通用 Agent 雏形,加入了工具调用、深度搜索和代码生成等能力,可以尝试处理更完整的任务。

Codex 这类 Agent 主要依赖云端大模型,能力更强。

端侧 Agent 则把模型运行在手机或你的电脑上。

它的价值是数据不用上传、断网也能工作,响应很快,也没有持续调用云端大模型 API 的费用。

目前 MiniCPM5-2B 已经实现了端侧通用 Agent 雏形。

我把这个 2B 模型接入了 DeepSeek Harness,用端侧模型跑 Agent,很神奇。

端侧模型MiniCPM5-2B接入DeepSeek Harness指南 本地Agent部署方案

01

开源模型简介

MiniCPM5-2B 这款面向端侧运行和本地 Agent 场景的模型。

在全球 4B 参数以下模型中是领先的。

端侧模型MiniCPM5-2B接入DeepSeek Harness指南 本地Agent部署方案

在 Artificial Analysis 的开源模型榜单中,MiniCPM5-2B 以 23 分排名第一,领先第二名的估算成绩 7 分。

也超过了多款 3B、4B 模型,有很强的参数效率。

下面是综合榜单评测成绩。

端侧模型MiniCPM5-2B接入DeepSeek Harness指南 本地Agent部署方案

面壁智能团队在预训练、SFT 和大规模强化学习等阶段,都针对 Agent 任务进行了专项优化。

而且后面还会开源相应的训练流程哦。

目前相关的数据都开源了的:UltraData-Code、UltraData-SFT-Agent-2609、UltraData-RL-2609、UltraX。

端侧模型MiniCPM5-2B接入DeepSeek Harness指南 本地Agent部署方案

这些数据包括对话、偏好对齐、数学和网页语料。

对端侧模型来说,数据质量会显著影响有限参数的利用效率与模型智能水平。

模型装不下无限的信息,训练数据就要尽量准确、清晰、有效。

同时 OpenBMB 也推出了两项强化学习技术:Meshy 让模型训练更灵活、更容易扩展。

JustRL II 通过筛选更合适的训练数据、更细致地判断推理中每一步的好坏,帮助 MiniCPM5-2B 学得更好。

端侧模型MiniCPM5-2B接入DeepSeek Harness指南 本地Agent部署方案

02

2B 模型开始探索端侧通用 Agent

MiniCPM5-2B 的基础能力覆盖知识问答、数学与代码推理、长文本、多语言和复杂指令。

思考让它可以根据任务,在快速回答和深入推理之间切换。

它更大的变化在 Agent 能力上。

端侧 Agent 很适合处理敏感数据。

聊天记录、会议纪要、合同和邮件可以留在本地电脑中,上传云端可能会有隐私顾虑。

比如使用 DeepSeek Harness + MiniCPM5-2B 对本地会议纪要进行处理:

端侧模型MiniCPM5-2B接入DeepSeek Harness指南 本地Agent部署方案
已关注
关注
重播 分享 赞
逛逛GitHub

0/0

00:00/01:20
进度条,百分之0
00:00
/
01:20
01:20
全屏
倍速播放中

继续观看

把最新开源的 2B 端侧模型接入 DeepSeek Harness,有点子神奇。

转载
,
把最新开源的 2B 端侧模型接入 DeepSeek Harness,有点子神奇。
逛逛GitHub
已同步到看一看写下你的评论

它也适合批量处理结构明确的任务。

试卷、简历或合同集可以拆分后交给多个本地 Agent 并行处理,也不会产生按云端 API 请求次数计费的调用成本。

比如使用 DeepSeek Harness + MiniCPM5-2B 对本地简历解析读取:

端侧模型MiniCPM5-2B接入DeepSeek Harness指南 本地Agent部署方案
已关注
关注
重播 分享 赞
逛逛GitHub

0/0

00:00/00:29
进度条,百分之0
00:00
/
00:29
00:29
全屏
倍速播放中

继续观看

把最新开源的 2B 端侧模型接入 DeepSeek Harness,有点子神奇。

转载
,
把最新开源的 2B 端侧模型接入 DeepSeek Harness,有点子神奇。
逛逛GitHub
已同步到看一看写下你的评论

这些能力来自一套覆盖多个阶段的训练流程。

MiniCPM5-2B 针对 Agentic 预训练、监督微调和大规模强化学习进行了完整优化。

预训练阶段让模型接触工具和任务相关知识。

监督微调提供高质量的 Agent 操作轨迹。

强化学习继续调整模型在多步骤任务中的决策和执行表现。

03

如何使用和部署 MiniCPM5-2B

MiniCPM5-2B 是开源的。

你可以通过本文底部提到的 Hugging Face 或 GitHub 链接查看项目和部署说明。

想在个人电脑上快速体验,可以用 llama.cpp 或 Ollama。

端侧模型MiniCPM5-2B接入DeepSeek Harness指南 本地Agent部署方案

也可以进入到 Deepseek Harness 里面。

使用很简单,你直接把这下面这个提示词丢给 CodeX 或者 Claude Code 它会引导你一步步完成:

请在我的电脑上从零部署 DeepSeek Harness,并接入 ModelBest 的 MiniCPM5 2B 模型。模型网关地址:https://api.modelbest.cn/v1

请你自动完成环境检查、安装、配置、启动和端到端测试。先通过 /v1/models 确认准确模型 ID,优先使用 MiniCPM5-2B,并设为默认模型。不要覆盖我已有的配置。

需要 API Key 时,引导我在本机安全输入,最后启动 dsh web,确认模型能够正常回答“你好”,遇到错误请继续排查直到成功。

04

相关链接

开源项目地址(含模型与 UltraData 系列数据):

Hugging Face:https://huggingface.co/collections/openbmb/minicpm5GitHub:https://github.com/OpenBMB/MiniCPM

    Meshy 框架开源链接和技术博客:

    - GitHub:https://github.com/OpenBMB/Meshy- 博客:https://maydomain.notion.site/meshy-blog-zh
    JustRL II 强化学习算法:
    博客:https://panhaoxuan.notion.site/justrl-ii-small-llms-to-128k-reasoning-with-a-critic-cn

    05

    点击下方卡片,关注逛逛 GitHub

    这个公众号历史发布过很多有趣的开源项目,如果你懒得翻文章一个个找,你直接关注微信公众号:逛逛 GitHub ,后台对话聊天就行了:

    端侧模型MiniCPM5-2B接入DeepSeek Harness指南 本地Agent部署方案

    没有评论:

    发表评论

    2026淘宝联盟年度榜单揭晓 两类新玩家正在改写淘客格局

    本文解读淘宝联盟2026年度优秀合作伙伴榜单,重点拆解手机厂商流量型与广告媒体投流型两类新玩家,剖析其资源迁移打法与头部格局变化。对想入局淘客的新人,建议结合所在城市的产业圈子选赛道,并重视自身流量资源与能力的长期积累。 Tags: 淘宝联盟 淘客榜单 手机厂商流量 ...