开源 Beam：5010 亿参数，干活时只叫醒 230 亿，本月 Apache 2.0 放出来

过去两年，开源模型的发布节奏几乎是一条单线：参数越来越大，榜单越来越高，显存越来越贵。但最近几个月这条线开始分叉了——大家关心的东西从「你有多大」变成了「你要花多少钱」。

本周发布的一个新模型把这条新路线摆到了台面上。它的总参数量是 5010 亿，听起来依然庞大，但真正干活时每次只激活约 230 亿参数。官方给的核心主张不是「我更强」，而是「我用三分之一到四分之一的推理算力，达到接近的水平」。权重本月以 Apache 2.0 放出，同时公布技术报告、模型卡片和整套运行评测微调的工具。

对开发者来说，这份东西的价值不在于又一个可以去跑一次的聊天玩具，而在于它提供了一个难得的完整样本：一个当代前沿模型，从头到尾的训练账是可以被摊开看的。

先说结构：为什么 501B 不等于跑不动 501B

要理解这个模型的定位，先要拆开「参数总量」和「激活参数」这两个数。

它采用的是稀疏混合专家架构。简单说就是内部有很多个专门处理不同问题的专家模块，但每处理一个问题，只需要叫醒其中很小的一部分。总量 5010 亿决定了它的知识容量和潜在能力上限，每次前向计算实际参与的约 230 亿，决定了它的运行成本和速度。

这个差别在实际账单上是数量级的。一个 5010 亿参数的稠密模型，要用一堆高端卡才跑得动；一个每次只激活 230 亿的稀疏模型，硬件门槛要低得多。这也是近年主流开源模型几乎集体转向稀疏的原因——不是因为大家忽然不喜欢密集机型，而是算过账。

还有一个不太被讨论但很关键的副产品：上下文长度做到了一百万 token。 这是在中训练阶段专门把长上下文处理能力扩展出来的，靠结构化代码仓库、长周期任务和长文档教模型在超长序列里识别、保留并串接相关信息。对要做整仓库代码理解、大批量文档分析的人来说，这个数的意义可能比任何榜单分数都大。

与国产开源的对照：它不是最强的那个，是更省的那个

官方给的对照非常直接，而且承认了几件事，这在发布通稿里不多见。

第一，它坦然承认在原始能力上仍有更靠前的开源模型。这是一个诚实的定位：不宣称全面第一。

第二，它声称在部分检索推理任务上接近更大规模的国产开源模型，同时推理算力只用三分之一到四分之一。这才是它的主打卖点。

第三，它明确把自己定位在「推进开源前沿的推理效率」，而不是「刷新开源前沿的能力上限」。

这组对照其实透露了一个信号：开源社区的竞争正在从「谁的分高」转向「谁的性价比好」。 当几个头部开源模型之间的距离已经缩小到几个百分点时，再往上刷分数的边际收益很低，而把同样的分数用一半成本跑出来，是所有实际部署方都想要的。

需要提醒的是，这个「三分之一到四分之一」的口径有保留。官方说明这是基于公开数据的估算而非实测成本——它把生成算力近似为两倍激活参数乘以平均生成 token 数，没有计入提示词预填充、注意力开销和服务层消耗。所以准确的理解应该是「同数量级的效率优势」，而不是一个可以拿去做预算的精确比值。

训练账：四周、六千张卡、九次回退

这份发布最有价值的部分，是它把训练过程的基础设施细节摊开了。

预训练用了 23.8 万亿 token，来源包括网络数据、公开数据集和授权私有数据。整个训练跑完不到四周，用的是六千余张高端加速卡。这个规模本身不算惊人，惊人的是它公布的两个运营指标。

一个是九次半自动回退。 归因是梯度范数尖刺或疑似静默数据损坏。训练中断在工业界是常态，但很少有人公开说自己回退了九次。这类细节对正在自建训练流程的团队是珍贵的参考：即使是有充足准备的团队，也要为「随时要回滚」设计流程。

另一个是百分之九十二点三的有效时间占比。 这里指的是墙上时钟里真正用于训练步并最终保留进模型的比例。九成二意味着只有不到一成的算力被浪费在中断、回退和重试上。对任何一个跑过大规模训练的人来说，这个数字背后是相当扎实的工程能力。

数据清洗那部分也值得一提。官方称管线淘汰了约百分之九十五的原始网络 token，但同时又说常规过滤手段会误杀约 1.8 万亿高质量 token，其中包括百分之八十七的精选网络代码数据。这两句合起来的意思是：他们用比常规更复杂的管线，在大规模去噪的同时保住了代码数据。 这是很多开源模型数据 pipeline 里最容易丢失的部分。

一个有趣的细节：没教它上网，它自己学会了

强化学习阶段出现了一组值得琢磨的现象，官方称之为「能力泛化」。

他们在推理、软件工程和终端任务上做强化学习，训练任务分布里并没有专门的浏览任务，结果浏览能力反而提升了。更意外的是，在具备网络访问的情况下，模型自发学会了去调用其他大模型的接口，以及调用 OCR 服务来读取文档。

这件事的意义不在于模型变聪明了，而在于它提示了一件事：当基础能力（工具调用、任务分解、信息整合）被训练到一定程度，具体技能的迁移会比预期更容易发生。 对正在设计自己 agent 系统的团队来说，这是一个值得写进方法论的观察——与其逐个补技能，不如把通用能力打厚。

强化学习本身的规模也公布了：在一万张以上的加速卡上跑了四周，产生超过一亿条试错轨迹，消耗约十三亿个沙箱环境。这个量级说明了一件事：当代前沿模型之间的差距，很大程度上是算力和工程组织能力的差距，不是某个巧妙算法的差距。

安全性做法：两个老师，最后合到一个学生

它的对齐流程用了一种叫多教师在线蒸馏的做法，值得一说，因为这是目前比较主流的思路。

做法是：从同一个预训练检查点出发，训第二个模型，用专门的监督微调和强化学习管线，数据专门针对希望模型遵守的原则。然后把这个「安全对齐老师」和那个「大规模强化学习老师」的能力合并起来。

他们把原则分成了三层：不能打破的规则（遵守安全政策、保持身份认知）、应该稳定满足的品质（善用给定上下文、做准确陈述、承认不确定、透明地服从用户请求）、默认交互风格（直接、周全、高效、主动预判需求）。这种分层写法本身就值得借鉴——把「不可协商的」和「风格偏好」分开处理，比一股脑塞进系统提示词要清晰得多。

另外值得注意的是，他们用了一種把安全政策直接写进模型推理过程的方法，并且用对抗式迭代构建数据集：每轮训出一个模型，就生成能诱出有害或过度拒绝行为的提示词，再把成功的攻击折回下一轮训练数据里。这个流程能有效降低「该拒的不拒、不该拒的乱拒」两类问题。官方承诺会开源他们内部开发的安全评测，这一点比任何承诺宣言都实在。

现在还拿不到，这一个月该做什么

需要澄清的是，现在它处于最后的红队测试与评测阶段，只有早期体验名单能接触到。权重、技术报告、模型卡片和全套工具链要到本月晚些时候才放出，许可证是 Apache 2.0。

Apache 2.0 这个选择本身是重要信息。它是最宽松的主流开源许可之一，意味着可以直接用于商业用途、可以微调、可以分发，不需要担心被污染。对中小团队来说，这消除了一个很大的法务顾虑。

这一个月建议做三件事：

第一，把手上零散的评测脚本整理成可复用的评测集。 新模型放出后，所有人都会跑一遍标准基准，但那些数字早就布满了常见基准。真正决定你要不要用的，是它在你自己的任务分布上表现如何。提前准备好二十到五十条真实任务，比任何公开榜单都有用。

第二，提前确认硬件与部署路径。 501B 的权重文件体积不小，即便激活参数少，加载和存储仍然是门槛。确认你的推理框架支持对应的稀疏架构、确认显存和磁盘够、确认有没有可用的量化方案。这些准备工作跟模型本身无关，先做完能省下大量时间。

第三，别急着迁移生产环境。 任何新模型在放出后的前几周都会经历一轮社区检验，包括评测复现、缺陷发现和工具链适配。把它放进评估管线而不是生产管线，等一个月再看。

一个更大的判断

这份发布最值得记住的不是那串 501B，而是它把「效率」明确写进了主打主张。

过去开源模型的发布会通篇都在讲分数，因为那是唯一的竞争维度。现在不一样了——当几个顶级开源模型的能力差距缩小到个位数百分点，真正区分它们的就是单位成本产出。这次发布甚至给出了量化的估算口径，虽然粗糙，但至少开了一个头。

接下来一年，我认为会看到更多模型把「每美元能买到多少能力」写进标题。这对国内开发者是好消息：开源环境下，效率竞争最终会以成本下降的形式落到每个人的账单上。

而对我们这些用模型的人来说，需要改的只有一个习惯：选型时别再只问「它有多强」，要同时问「它跑起来花多少」。 这两个问题的答案合起来，才是真正要付的那个价格。