连年来，跟着大模子简约单问答，走向深度商量、医疗询查、多模态生成和长程Agent任务，一个基础问题变得越来越难文告：咱们到底应该如何判断模子输出的质地？

在许多的确且复杂的场景中，咱们可能莫得门径谜底也莫得可验证谜底正确性的信号来评估模子输出的正确性。

以DeepResearch讲述评估为例，传统方法可能仅仅对比生成讲述和参考讲述的文本互异，或者让大模子给一个总体分数。但一篇好讲述并不一定要和参考讲述写得相似，也很难用一个朦胧分数笼统。它需要同期知足多个要求，举例是否文告了用户问题、秘密了要害信息、援用了可靠把柄、论证是否澄澈、论断是否有用等等。

Rubrics的作用，便是把这些迷糊的「好讲述」门径拆解成明确的评价项，让评审者或judgemodel逐项查抄和打分。这么不仅能判断讲述总体好不好，还能指出具体问题，并进一步把这些细粒度反映转动为磨真金不怕火信号，匡助模子针对秘密不及、把柄不充分或逻辑不清等问题进行优化。

这意味着，大模子的磨真金不怕火与评测正在从单一正确性信号，转向多维度、可阐扬的质地门径。Rubrics，正在成为结合东谈主类生机、任务要乞降模子活动的贫乏接口。

近日，来自中国东谈主民大学高瓴东谈主工智能学院的商量团队发布综述论文《TheRulesoftheGame:ASurveyofRubricsforLargeLanguageModels》。论文共40页，系统梳理了Rubrics在大模子中的界说、构造方法、磨真金不怕火哄骗、评测场景与盛开挑战。论文同期珍爱了抓续更新的GitHub样子，简略社区追踪这一快速发展的地方。

论文标题：TheRulesoftheGame:ASurveyofRubricsforLargeLanguageModels

GitHub阅读列表：https://github.com/RUC-NLPIR/Rubrics_Survey

为什么当今需要Rubrics？

早期大模子的任务继续具有相对澄澈的输入输出形式，并且谜底的正确性是容易评估的。举例问答任务不错比较门径谜底，代码任务不错运行测试用例，数学任务不错验证最终后果。关于这些任务，准确率、施行得胜率或轨则化奖励或者提供较凯旋的磨真金不怕火和评测信号。

但跟着模子才调扩展，任务难度也发生了显然变化。大模子正在被要求完成更盛开、更高风险、更复杂的任务。举例：自动搜索贵寓并生成商量讲述；在医疗、法律、金融等专科规模给出分析；调用外部器具完成多步任务；在多模态场景中生成或结合复杂内容。此时，输出质地频繁不再由一个谜底决定，而是由多个维度共同决定。

Rubrics的价值正在这里知晓出来。它将「好谜底」拆解为一组明确的评价项，举例事实正确性、秘密度、把柄复旧、推理严谨性、安全性、形状合规性和推行可用性。评测者不错逐项打分，也不错将这些分数团聚为最终后果。与一个黑箱分数比拟，Rubrics提供的是可查抄、可调度、可会诊的质地门径。

本文聚焦于文告以下五个问题：

Rubrics是什么？

Rubrics如何构造？

Rubrics如何用于模子磨真金不怕火？

Rubrics如何用于任务评测？

盛开性问题和挑战

图1：上半部分是章节总览；下半部分展示了rubrics在不同任务上的示例。

Rubrics到底是什么？

在素养评估中，rubric频繁指一套评分指南：它确认评估者应该看哪些方面，以及不同质地水瓜分别意味着什么。放到LLM中，Rubrics不错结合为一组当然言语形式的评价门径，每个门径对应一个具体、可评估的质地维度。

这篇综述给出了长入形式化：一个rubricset不错由若干rubricitem构成，每个item包含当然言语形貌（具体的rubrics示例不错参见图1下半部分）和贫乏性权重；关于输入任务和模子输出，judgemodel逐项给出分数，再通过平均、加权乞降或隐式团聚得回举座评价。

更贫乏的是，论文对Rubrics与几个容易浑浊的观念进行了区分和磋磨。LLM-as-a-Judge处理的是「谁来评」，Rubrics处理的是「按什么门径评」；rewardmodel频繁凯旋输出一个标量分数，而Rubrics将评价门径显式列出；RLVR依赖自动可验证的谜底，而Rubrics更安妥那些需要多维度判断、难以十足验证的盛开式任务。

Rubrics如何构造？

Rubrics是否有用，当先取决于它们本人是否鼓胀好。一个过于畴昔的门径，举例“回搭理应有匡助”，很难提供厚实的磨真金不怕火和评测信号；一个过于细碎或重叠的门径，博亚体育2026世界杯中国官网又可能带来冗余评分和噪声。

综述将Rubrics构造方法永诀为四类，呈现出简约单到复杂、从静态生成到动态演化的门道。

图2：四种不同的rubrics生成范式，包含凯旋生成、对比生成、迭代优化和在线演化。

第一类是凯旋生成。给定任务提醒、候选谜底或参考据据，渊博的LLM不错一次性生成一组评价门径。

第二类是对比生成。比拟只看一个谜底，对比生成会输入偏好对，举例一个高质地文告和一个低质地文告，让模子纪念二者互异，从而索求更有判别力的门径。

第三类是迭代优化。商量者运行不再把Rubrics构造当成一次生成任务，而是引入迭代地验证、剖析、过滤等过程。举例检测某个门径是否能厚实区分偏好对，递归拆分过粗的门径，最终得回更原子、更紧凑的rubricset。

第四类是在线与共同演化。关于强化学习和Agent任务来说，静态Rubrics可能很快落伍。因此，部单干作尝试让Rubrics跟着policyrollouts更新，将新出现的失误活动纳入评价门径，使Rubrics与模子磨真金不怕火过程共同演化。

Rubrics如何用于模子磨真金不怕火？

在模子磨真金不怕火中，Rubrics的中枢作用是把复杂质地要求转动为可优化的监督信号。比拟一个举座偏好标签，Rubrics能告诉模子「那儿作念得好、那儿需要改」，因此寥落安妥盛开式任务和多步Agent任务。

用于policymodeltraining：让模子学会生成好谜底

门径的基于rubrics作念policyRL的方式是：给定输入和模子生成的文告，judgemodel按Rubrics逐项打分，再将分数团聚为一个奖励，用于PPO、GRPO等强化学习算法。这个过程不错作用在最终谜底上，也不错作用在齐备轨迹上。关于器具调用Agent、深度商量Agent或多模态推理模子，2026世界杯官方网站轨迹级Rubrics尤其贫乏，因为好多失误并不会凯旋体当今最终谜底中。示例图如下：

图3：四种不同的rubrics生成范式，包含凯旋生成、对比生成、迭代优化和在线演化。

不外，将多维Rubrics简易加权为一个标量奖励是比较粗粒度且不无邪的，因为不同门径之间可能存在依赖、任性或硬敛迹关系。举例医疗问答中的安全性不应仅仅一个肤浅加分项，而可能是veto条目（一朝违背则reward为0）。基于此，许多责任进一步建议瞎想更先进更鲁棒的rubricreward：包括可学习的Rubric权重、引入veto或saturation机制、聚首环境反映、按难度进行curriculum磨真金不怕火，以及在RL算法里面聚首rubrics瞎想上风预想。

还有一类责任将Rubrics从「过后打分器具」推动为「生成过程中的换取」。模子不错先生成或读取Rubrics，再据此计算文告；也不错把未知足的Rubric转动为反映，换取下一轮改写。这意味着Rubrics不仅能告诉模子一个输出得几许分，还能匡助模子探索更高质地的输出空间。

用于rewardmodeltraining：让奖励模子更可阐扬、更可靠

Rubrics也被越来越多地用于rewardmodeltraining。传统rewardmodel继续只输出一个标量分数，难以阐扬为什么某个文告更好。引入Rubrics后，rewardmodel不错被磨真金不怕火为先依据门径进行分析，再给出偏好判断；也不错输出多个维度的分数，并通过显式团聚得回最终reward。根据综述的整理，Rubrics在rewardmodeltraining中主要发达三类作用。

图4：rubrics在rewardmodel磨真金不怕火中的三类责任。

1.升迁奖励模子的可阐扬性

传统rewardmodel频繁凯旋输出一个标量分数，评价门径隐含在模子参数中，商量者很难判断模子究竟依据什么作念出偏好判断。引入Rubrics后，奖励模子不错被磨真金不怕火为先围绕给定门径进行逐项分析，再输出最终偏好判断；也不错对不同rubric维度分别打分，再通过显式团聚得回最终reward。这么一来，奖励模子不再仅仅一个黑箱打分器，而是或者展示「为什么这个文告更好」「哪些维度影响了最终分数」。

2.提供更细粒度的rewardmodel磨真金不怕火信号

除了最终偏好是否正确以外，Rubrics还不错行动结构化参考单位，用来敛迹奖励模子的中间分析过程。举例，一些责任会将东谈主工标注或素养模子生成的根由拆解为rubric-level的参考信号，并在磨真金不怕火中饱读吹rewardmodel的分析过程与这些门径保抓一致；也有方法要求模子先生成Rubrics，再进行分析和判断，并通过特别的proxymodel评估生成Rubrics的质地，从而把Rubrics本人也纳入优化主张。

3.用于构造更高质地的磨真金不怕火数据

传统偏好数据中继续包含长度、形状、口吻等浅层痕迹，rewardmodel可能学会这些名义特征，而不是学习的确决定文告质地的身分。Rubrics不错匡助识别影响文告质地的中枢维度，并据此构造更有针对性的磨真金不怕火样本，使奖励模子更存眷事实性、齐备性、安全性、推理质地等本色门径，而不是依赖「文告更长」「形状更整都」这种。

Rubrics如何用于评测？

除了磨真金不怕火，Rubrics另一个常见的用途是模子评测。关于盛开式任务，Rubrics终点于一份显式的评价门径：它界说了需要查抄的维度，如何给分等等。本文按照通用任务和规模特定的任务对已有的基于rubrics评估的benchmark进行了分类：

在通用任务中，Rubrics已被用于推理才调、深度商量、盛开式生成、通用Agent才妥洽对都评测。举例在数学推理任务中，评测不再只看最终谜底，还会查抄中间门径的正确性；深度商量任务的评测会同期存眷信息秘密、把柄复旧等维度；Agent任务相干的评测则进一步存眷器具选拔、参数调用、和多轮施行可靠性等方面。

图5：rubrics在通用任务评估上的代表性责任。

在专科规模中，Rubrics的价值更显然。举例，在医疗问答规模，东谈主们需要各人制定门径来查抄模子文告中的医学正确性、安全风险和酌量质地等等；在法律和金融任务中，咱们需要评估事实适用、过程可审计、风险闪现和实务可操作性；在这部分，综述按照评估的对象（中间轨迹和最终谜底）和门径（事实性、安全性、专科抒发和推行可用性）对已有的责任进行了防备的分类和磋磨。

图6：rubrics在特定规模任务评估上的代表性责任。

盛开问题和挑战：Rubrics不是银弹

Rubrics的上风在于显式、结构化和可阐扬，但这些秉性也带来了新的问题。综述纪念了多个值得存眷的盛开挑战。

当先是rewardhacking。模子在磨真金不怕火过程中可能学会hackrubrics的名义特征，而不是的确升迁任务质地。如何瞎想更谨慎的Rubrics、并让瞎想Rubrics随磨真金不怕火过程的更新机制，是畴昔贫乏地方。

其次是rubric-basedrewardmodel的泛化。好多Rubrics来自特定任务或规模，rewardmodel可能过拟合这些门径而丢失泛化性。畴昔需要商量如何让奖励模子在新任务、新规模下仍然有用地基于Rubrics进行reward诡计，尤其是在医疗、法律、金融和科学推理等高门槛规模。

第三是评测偏差。Rubrics不错提高评测的可阐扬性，但并不可自动摒除bias。Rubric的写法，judgemodel的录取等等都会对最终的评测产生bias。如何瞎想更鲁棒更厚实的Rubric-basedevaluation是一个需要处理的问题。

此外，个性化Rubrics和Rubric安全也正在成为新问题。个性化Rubrics不错更好地描摹用户偏好，但也可能过度相合浅层偏好，以致与安全门径任性。与此同期，Rubrics本人也可能成为挫折面：坏心或暗藏的门径改写可能偷偷更正judge的偏好地方，并进一步影响磨真金不怕火数据和模子活动。

结语：把「轨则」写明晰，才可能的确优化模子活动

这篇综述的中枢兴趣，不仅仅胪列了Rubrics相干责任，而是把一个正在快速膨胀的商量地方放进了长入框架中：Rubrics是大模子磨真金不怕火与评测中的显式质地接口。它界说门径，组织反映，结合东谈主类偏好、任务敛迹与模子优化。

跟着大模子络续走向盛开式、高风险和Agentic哄骗2026世界杯中国官方app，系统需要的不仅仅更强的生成才调，还需要更明晰的质地界说。Rubrics的价值正在于此：它让「好谜底」不再仅仅一个迷糊直观，而成为一组不错磋磨、查抄、修改和优化的明确门径。