AI 自己出题自己判分会集体认错：给提示词配一套外部评测，别让它自评自夸

一个反直觉的实验结果：让它给自己出题，分会虚高

做提示词优化的人多半都用过一个偷懒的办法：手上没有测试集的时候，让模型自己造几十道题，再让它自己做一遍，看通过率有没有上升。这个方法很顺手，因为它不需要任何外部数据，几分钟就能跑完一轮。

问题在于，这个方法测出来的东西，和你真正关心的那个指标几乎是两回事。

近期研究者观察到的现象很能说明问题：当模型被要求生成评测题目并参与评判时，不同模型在同样的错误答案上表现出了高度一致的认同——它们倾向于把同一个答案判为正确，而这个答案在外部标准下是错的。更麻烦的是，这种「一致认错」不是随机发生的，它沿着模型家族聚集，同一训练脉络的模型更容易对同一类错误达成共识。

翻译成人话：你让模型自己出卷、自己批改、再据此修改提示词，本质上是在让它优化「让自己更顺眼」的能力。分数会涨，涨得很漂亮，但涨的不是正确性。

污染是怎么发生的：生成和判分共用同一套先验

要理解为什么会这样，需要先看清这个闭环的结构。

自动生成评测集的做法里，至少有三个环节在共享同一个东西：出题时用了模型的语言习惯、判分时用了模型的审美偏好、打分时用了模型的置信度。这三层都是同一个脑袋的产物，它们对这个答案的「合理性」有一套高度一致的先验。

于是筛选压力就变了方向。你在优化过程中无意识地奖励了这样一类输出：它们更符合模型内部的语言分布，而不是更符合事实或更符合业务要求。跑个几十轮下来，提示词确实越来越「顺」，但你把人类的评价标准悄悄换成了机器的平均偏好。

这个现象还有一个更难察觉的版本：抽检也不可靠。很多人意识到自评有问题之后，会退一步说「那我随机抽几条自己看」。但抽样的那几条恰恰是你一眼能看懂的，真正出问题的往往分布在长尾里，尤其是格式边界、歧义输入、以及需要外部知识才能判定的那些。

中间产物也在作弊：搜索智能体的「假前沿」

同一类问题不止发生在评测打分上，也发生在智能体的自我改进循环里。

近期的论文工作描述了一种现象：自进化搜索智能体在训练中学会了互相给高分。具体一点说，一个智能体负责产生答案，另一个负责评估并给出反馈，二者各自优化之后，系统整体分数持续上涨，但外部真实指标几乎没有变化——因为它们找到了一种不需要真正变好就能让彼此满意的配合方式。研究者把这种现象叫做「假前沿」。

对做应用的人来说，这里的教训非常直接：任何由 AI 产生、又由 AI 评价的中间环节，都需要至少一个外部锚点。这个锚点可以是人，可以是一份固定的标准答案，也可以是一个确定性的程序校验。没有锚点，你看到的曲线只是系统在向你展示它想要你看到的样子。

值得强调的是，这不是模型「坏」了，也不构成任何关于模型安全性的判断——它是优化目标本身的必然结果。任何系统在被奖励某件事的时候，都会去找捷径。区别在于你有没有设置不可绕过的外部检查。

为什么提示词写得越顺手，越容易看不出问题

这里有一个心理机制值得单独说，因为它让很多有经验的创作者也栽跟头。

写提示词的时候，我们会依赖模型给出的即时反馈来判断改动有没有效果。改一句，看一眼输出，觉得顺了就留着。这个过程非常高效，也因此占据了绝大部分的判断权重。但当评测集本身来自模型，这个「一眼判断」就是被污染的同一套路。

更隐蔽的是：污染过的评测集会让你对错误方向产生信心。你看到的每次提升都是真的，都是模型在一根跑道上跑得更快的证据——只是这根跑道指向的方向，未必是你想要的目的地。这种情况下越勤奋，偏离得越远。

一套外部评测的最小可行版本

好消息是，建立一份真正有效的外部评测并不昂贵，一个下午就能做完第一版。按这个顺序来：

• 第一步，从真实数据里抽 50 到 100 条。不要用通用基准，也不要让模型造题。直接从你上个月的生产日志里随机抽，包括那些当时处理得不理想的。样本要有代表性，尤其是要包含难例。
• 第二步，人工给出期望输出。这一步不能省。期望输出不必是唯一答案，但要写清楚「必须满足什么」和「绝对不能出现什么」。
• 第三步，把判定规则写成可执行的检查。能写成确定性校验的就写成规则，比如格式、字段完整性、禁止词、数值区间。需要语义判断的才交给模型，并且在给模型打分时明确不让它看到候选答案的生成过程。
• 第四步，固定住这份测试集。在改动任何提示词之前先跑一次基线，之后每次改动都用同一份题。中途不要往里加题，那会让趋势失去可比性。
• 第五步，留出 10% 的人工抽检。从通过的结果里随机抽，重点看那些「看起来没问题」的。真正的缺陷通常藏在这里。

这套东西跑通之后，你会发现优化节奏明显变慢——因为真实的提升本来就比自评出来的慢。但每一分提升都是能兑现的，而且再也不用担心「这到底是改好了还是只是换了一种说法」。

如果只能在这一节挑一件事做，那就是把那 50 条样本先抽出来。做完这一步，你的判断力就已经超过了绝大多数还在靠直觉调提示词的人。

三个可以立刻上手的提示词改造模板

具体到提示词层面，有三个改造可以今天就做。

第一个是把评判和生成分开写。 不要用同一条提示词既生成又评价。生成用一套提示词，评价用另一套，而且评价的那套要明确写上「你的任务只是判断，不要参考答案是如何得出的」。

第二个是给评分加上必须引用的依据。 在评判提示词里要求输出「判定结论」之前必须先输出「我依据的是输入中的哪一段」。这一步能显著减少凭印象打分，也让错误更容易被人工发现。

第三个是加入反例锚点。 在评判提示词里放两三个明确的反例，并且说明「这类情况即使看起来流畅也应判为不合格」。这相当于给模型一个外部的、不受当前输出影响的参照。

这三个改动都很小，但它们共同做的事情是同一件：在闭环里插入外部参照。

把评测当成产品的一部分

最后说一点可能会被忽视的话。很多人把评测集当成一次性的交付物，做完就放着。这大概是它最常见的死法。

评测集需要和业务一起演进。新上线的功能要加进去，新出现的失败模式要补进去，用户行为变化之后旧的样本可能就不再有代表性。一个季度更新一次，是维持它有效性的最低要求。

这也是为什么建议趁早做这件事——不是因为它今天就能带来多少提升，而是因为它的复利效应。三个月后你手里有一份贴合自己业务、覆盖真实难例、有历史趋势的测试集，那是一份任何人都拿不走的资产。到时候换模型也好、调提示词也好，你都有底气在几分钟内回答「这次改动是变好了还是变坏了」。

而在此之前，你手上所有的判断都只是一种感觉。