术语定义
奖励模型(Reward Model),中文通常称为奖励模型。为模型输出或行动估计质量分数的模型,可作为训练或选择候选结果的信号。
应用示例
给多个客服答复评分,帮助选出更符合服务规范的版本。
理解要点
评分只是对目标的近似,过度追逐分数可能偏离真实需求。
奖励模型(Reward Model),中文通常称为奖励模型。为模型输出或行动估计质量分数的模型,可作为训练或选择候选结果的信号。
给多个客服答复评分,帮助选出更符合服务规范的版本。
评分只是对目标的近似,过度追逐分数可能偏离真实需求。
跑一轮真实检测,拿到评分和问题清单。