万亿参数只激活 49B：Mistral Large 4 开放预览，权重月底才放

周一早上打开群，又是一屏"模型又升级了"。做后端的老陈发了个链接，说这次是万亿参数，底下一串"牛""恐怖""卷麻了"。他自己的项目其实卡在另一件事上：一份三百多页的供应商合同要提取条款，用现在手上的模型切片跑，前面提取的口径和后面不一样，客户退回来两次。

他问我，这次这个新模型能不能解决他的问题。我说不能一概而论，但这次的发布会里，有一条信息比"万亿参数"有用得多。

先把参数这件事说清楚

这次发布的 Mistral Large 4，内部代号 Le Chonk，官方给的数字是总参数 1.05 万亿、每个 token 激活 490 亿，另外挂了一个 16 亿参数的视觉编码器，上下文窗口 100 万 token，在 3800 张 NVIDIA Grace Blackwell 上从头训练。

很多人看到"万亿参数"第一反应是"这得多少张卡"。这里要分清两件事：总参数决定的是模型容量，激活参数决定的是每算一个 token 要走多少计算。这是一个 granular MoE（细粒度混合专家）架构，每个 token 只经过网络里很小一部分。

激活比例算下来是 49B ÷ 1050B ≈ 4.7%，大约每 21 个参数里有 1 个在当前 token 上真正做运算。

但别急着高兴。激活参数少不等于显存需求小——完整的 1.05T 权重还是得装进推理系统，可能要摊在多张卡上。省下来的是算力路径，不是你的硬件账单。这一点在自建部署时最容易误判，我见过有人拿"只激活 49B"去申请一张 80G 的卡，结果连权重都加载不进去。

这次真正值钱的是安全能力

比起跑分，这次发布里更值得看的是它在网络安全上的表现。官方给出的数字：Cybench（40 道 CTF 赛题）解出 93%，CyberGym-E2E（复现真实漏洞再打补丁）拿 82%。

82% 这个数字单独看没什么感觉，得配上另一半信息：包括 Claude Opus 5.5 和 GPT-6 Astra 在内的几个闭源前沿模型，在同一项测试上接近零分，原因是它们拒绝执行任务。

这里的逻辑是这样的：防守软件常常要先证明一个漏洞是真的、是可以被利用的，才能说服团队去修。而闭源模型的安全过滤器会把这类请求挡掉。可攻击者拿同一批模型做越狱，照样能拿到能力。结果就是防守方反而被自己的工具限制住了。

这条对做安全、做运维、做企业内审的团队意义很直接。当然也要说清楚：这些分数是 Mistral 自己公布的，权重还没放出来，独立复现还没发生。

100 万上下文能装什么

官方给的换算关系是硬指标：一张图占 280 个 token、一帧视频占 140 个 token、一秒音频占 25 个 token。按 8192 的上下文算，单次输入最多能放 29 张图、或 58 个视频帧、或 5.5 分钟音频，也可以交错混放。

回到开头老陈的合同问题。1M 上下文确实能把整份合同塞进去，但这里要泼一盆冷水：能塞进去不等于每个 token 都被平等地注意到。上下文越长，注意力被稀释的风险越高，这是当前架构的通病，不是哪家独有。

真正稳的做法还是检索 + 校验：先把文档切成块做向量召回，把召回的块放进上下文，再让模型回答并要求它标出依据来自哪一块。上下文大是提高了天花板，不是免掉了检索这一步。

定价和成本账

预览期的定价：输入每百万 token 1.36 美元，输出每百万 token 4.18 美元，缓存输入 0.14 美元。

拿一个具体场景算账。假设你做文档抽取，一份 30 页的合同大概 2 万 token 输入，输出结构化结果 2000 token。跑一遍的成本是 20000 × 1.36 / 1000000 + 2000 × 4.18 / 1000000 ≈ 0.0272 + 0.0084 ≈ 0.036 美元，约合两毛六分人民币。

一千份这样的合同，约 260 元人民币。如果同一批文档要反复问不同问题，把第一轮输入缓存下来，后续输入单价降到 0.14 美元，成本能再降一个数量级。

这里有个实操建议：把"要不要缓存"当成架构决策来做，不是优化选项。多数团队的成本失控不是单价高，是同一个文档被反复完整送进去。

权重月底才放，现在能做什么

这是最关键的现实约束：现在是公开预览，只能通过 API 用，权重承诺月底放出，许可证条款目前还没公布。

所以现在能做的：

• 在 Mistral Studio 上用预览 API 跑你自己的真实任务，记录模型版本和配置
• 测试它支持的结构化输出、函数调用、文档问答、批处理
• 用你的真实数据建立评测集，这样权重放出后能立刻判断要不要迁移

现在不能做的：

• 不能自建部署，权重不存在
• 不能假设"开放权重 = 可以免费商用"，条款没出来之前这是未知数
• 不能把预览期的分数当成最终分数，官方明确说模型还在持续优化

国内团队的三条实际用法

长文档抽取与核对。 合同、招股书、财报、招投标文件。做法是先切块召回再送模型，要求输出标注原文位置，最后用脚本比对模型提取的字段和原文是否一致。1M 上下文在这里的价值是召回失败时的兜底，不是主力路径。

代码库索引与检索。 官方数据里代码能力提升明显，配合结构化输出可以做跨仓库的接口梳理。这类任务对输出格式稳定性要求高，建议先跑 50 个样本看格式漂移情况。

安全与合规场景。 漏洞复现、检测规则编写、恶意样本分析。这是它和闭源模型差异最大的地方，但也最需要注意合规边界——在自己有授权的系统上做，别越线。

三个常见误区

误区一：以为激活 49B 就能单卡跑。 上面说过，权重总量没变，激活参数只决定算力路径。

误区二：以为开放权重等于能立刻商用。 许可证未公布，这是目前最大的不确定性。

误区三：以为预览分数就是最终分数。 官方说模型还在改进，你现在测出来的基线要留档，否则后面分不清是模型变了还是你的用法变了。

今天就能做的三件事

第一，把你现在最痛的那个长文档任务拿出来，拿它跑一遍预览 API，别跑 demo，跑你自己的数据。

第二，给这个任务建一个 30 条样本的小评测集，记录准确率、格式稳定性、耗时、成本四项。评测集是一次性投入，后面每来一个新模型都能复用。

第三，把"权重放出"设成一个提醒。月底权重落地后，用你已有的评测集重跑一遍，十分钟就能决定要不要迁移，而不是临时凭感觉。

模型发布会每周都有，但能把"又升级了"变成"我这边能省多少钱、能少退几次稿"的，只有你自己那份评测集。