小米公开MiMo-V2.6-Pro和Flash大模型强化学习训练直播,一天烧约500万元,页面展示实时账单、采样调度、题目配比与训练指标,并公开故障记录。适合关注AI大模型训练成本、RL训练流程与技术透明度的人群了解。
Tags:小米又干大事!
前段时间,小米智驾澎程系列发布,七座大 SUV 只要 26.99 万。
“白菜价”给到顶配,还内含英伟达 Thor 芯片和激光雷达。
我本来这波以为已经够狠了,昨天,小米又疯狂了。
AI 团队居然直接公开大模型训练过程,一天烧 500 万,实时直播。
要知道,大模型训练过程历来是各家的高度机密。
虽然学术界之前有过公开训练的先例,但一家商业公司,把训练的实时花费、故障记录全部挂到网上,还是头一次。
而且公开的是 RL 阶段,不是预训练。
复杂度高一个量级,相当于公开整条生产线,直接裸奔了。
我们来看看怎么回事?
直播链接:https://mimo.xiaomi.com/rl/
一、小米公开了什么?
这次小米将公开训练两个模型:MiMo-V2.6-Pro 和 MiMo-V2.6-Flash。
页面上能看到的东西,大致分成四块。
第一块:两条线各自的「账单」
截至我看到的时间点:
Pro 已经花了 92.4 万美元,跑到第 14 步
Flash 花了 41.4 万美元,跑到第 17 步
已经烧掉了 134 万美元,折合人民币近 950 万。
第二块:实时动态采样器
名字很唬人,其实就是一个发题和收卷的调度系统。
模型每一步要做 1568 道题,每道做 16 遍。
但这 1568 道题不是一口气发下去、等全部交卷再批改的,而是同时在做所有的事。
这个调度系统的工作台,左边是一个滚动的日志流,每隔十几秒刷新一行,记录着此刻的调度情况。
长这样:
翻译一下:
accepted 1,744/1,568:需要 1568 道题的合格答卷,目前已经收了 1744 份
judged 1,622:其中 1622 份已经批完了
pass 0.591:通过率 59.1%
remaining 640:还差 640 份才能凑够
奇怪的地方来了,收了 1744 份,目标只要 1568 份,怎么还差 640?
因为每道题做 16 遍,如果 16 遍全对或全错,这组数据对训练就没有用,必须重来。
右边的表格就是各个题库的进度。注意 in flight 那一列,就是此刻有多少条轨迹还在跑。
有一个叫 code/dataset-yfch 的题库,配额只要 55 份,已经收了 260 份,但还有 255 条在途。
也就是说,这个题库把模型卡得死死的,系统派了近十倍的算力去硬啃,才能凑够合格答卷。
所以,这个题库训练起来很烧钱。
第三块:题目配比
页面中间有一个堆叠柱状图,展示每一步训练用了什么题。
一共 25 个数据集,分五大类。
每个类别后面都带着一个小箭头,显示相比上一步的配比变化。
它不是固定的,而是根据模型当前的薄弱项浮动。
这个柱状图左上角有个开关,可以在「按数据集分」和「按 Harness 分」之间切换。
这里的 Harness 是什么?你可以理解成考场的环境配置。
同样是代码题,一种考场可能给模型一个终端,让它改代码跑测试;
另一种考场可能给的是一个浏览器环境,让它操作网页完成任务。
题目一样,但工具不同,及格标准也不同。
小米在同一次训练里混用了好几套不同的考场环境。
这也是罗福莉说的「多任务 Agent 强化学习」的意思,不是只练一种能力,是把所有需要的都塞进同一个循环里训练。
第四块:训练指标仪表盘
这一块是最复杂的,有十几张折线图,但我们只需要重点关注三件事。
第一,模型在不在变强?
看 dynsam/avg@n,就是训练通过率。如果这条线在往上走,说明模型做题的正确率在提高,训练有效果。
第二,训练稳不稳?
看 actor/grad_norm,就是模型每一步更新的幅度。
这条线越平越好,如果某一步突然冒出一个尖峰,说明训练在那一刻出现了波动。
第三,模型还能不能继续练? 看右上角的 entropy_loss(熵)。
这个指标通俗讲就是模型还愿不愿意尝试新解法。如果掉下去,说明模型「躺平」了,只会用一种套路,训练就到头了。
对了,页面顶部还有个通知栏,滚动播报训练中的实时事故。
比如这一条:
the mimo-v2.6-pro run is restarting due to a vram issue on one node
意思是 Pro 的训练因为某个节点显存炸了,正在重启。
故障记录都公开,几乎算裸奔了。
二、钱怎么烧的?
页面上的累计花费除以累计时间,可以算出烧钱速度。
Pro 每小时烧 2.06 万美元,Flash 每小时烧 1.03 万美元。两条线并行,合计每小时 3.08 万美元,每秒约 8.5 美元。
网上说「一秒烧 10 刀」稍微高估了一点,但量级是对的。
算下来,Pro 模型做一道题的一次尝试,成本是 2.76 美元。
Flash 便宜得多,每条只要 0.83 美元。
Pro 的训练通过率每提高 1 个百分点,大约要花 15.5 万美元。Flash 只要 3.7 万。
同样的题,Pro 的学费是 Flash 的四倍多。
还有大佬根据页面上的数据反推了用卡规模。
他认为,页面显示 Pro 一步的生成阶段花了 58 分钟,这一步总共产出 22 亿 token。
算下来每秒要吐 63 万 token。
按 H100 在 89K 长上下文下的吞吐估算,单卡大约每秒 100–150 token。
那光 Pro 的解码就需要 4000–5000 张卡。加上 Flash,总卡量大约在 6000–8000 张 H100 左右。
当然,小米没有公布用的什么卡,H100 是推测,实际误差可能不小。
小米直接给到的数字,是沙箱数量。
模型做的是真实的 Agent 任务,每道题都需要一台真实的虚拟机来执行代码。
页面上 env/active 显示,Pro 维持着 23,180 个活跃沙箱,Flash 维持着 37,786 个。
也就是说,同时有超过 6 万个 Linux 容器在并发跑命令。
钱不只烧在显卡上,还烧在这 6 万台虚拟机上。
另外,还有一大块钱烧在「等」上面。
训练集群这个规模,节点故障是常态,每一次重启都是钱在空转。
还有一个有意思的对比:MiMo-V2.5-Pro 的 API 输出价格是每百万 token 0.609 美元。
而这次 RL 训练每百万 token 的成本是 33.4 美元。训练成本是售价的 55 倍。
当然,训练成本里包含了沙箱、评分器和反向传播,不能直接和推理价格比。
但很显然,API收入仍远远赶不上训练开销。
三、小米为什么要这么干?
一家商业公司,把训练成本全部公开,图什么?
先看罗福莉自己怎么说。
沉默了近半年,我们只研究了一个问题:强化学习到底还能扩多远。
这句话的背景是,整个行业正在经历一次共识转移。
两年前大家卷的是预训练。
谁喂的数据多、参数大,谁就强。
后来大家发现数据快见底了,预训练的收益在放缓。
于是重心转向了后训练,特别是强化学习。
DeepSeek-R1 证明了 RL 能让一个中等模型突然变得很能推理,整个行业为之一振。
但紧接着一个新问题就摆在所有人面前:RL的收益也会见顶吗?如果持续加大投入,模型能力是不是还能一直涨上去?
小米选择用一种完全透明的方式来验证。
四、总结
回头看一下小米大模型这半年的节奏。
4 月,MiMo-V2.5 系列正式开源,Pro 版总参数达到 1T,上下文长度 100 万 token。
同一天,小米宣布未来三年在 AI 领域投入超过 600 亿元。
6 月,发布 UltraSpeed 版本,把一个万亿参数的模型推到了每秒 1000 token 的输出速度。
然后沉默了将近三个月。
昨天,罗福莉重新出现,直接把 MiMo-V2.6 的训练现场打开给所有人看。
小米在 AI 这条线上的打法越来越像它做手机和做车的风格:先闷头干,干出来了再说,而且一亮相就把底牌摊开。
页面底部那行小字,大概就是小米想说的全部:
「Open is what we value.」
500 万一天贵不贵?贵。
但至少这是我见过的第一笔花得明明白白的训练费。
没有评论:
发表评论