术语定义

奖励模型(Reward Model),中文通常称为奖励模型。为模型输出或行动估计质量分数的模型,可作为训练或选择候选结果的信号。

应用示例

给多个客服答复评分,帮助选出更符合服务规范的版本。

理解要点

评分只是对目标的近似,过度追逐分数可能偏离真实需求。

相关术语